Obiectivul acestui articol este bivalent: în primul rând, articolul investighează influenţa sistemelor robotice și a dispozitivelor inteligente asupra obiectivelor organizațiilor. Preocuparea noastră vizează și modul cum este percepută valoarea în organizaţii bazate pe o reţea complexă de factori decizionali, uneori cu interese și agende antagonice. Această analiză ia în calcul și implicaţiile emoţionale ale utilizării dispozitivelor inteligente ca parte a unei lumi tot mai complexe. În al doilea rând, propunem un set de instrumente ce pot fi folosite la începutul colaborării dintre furnizorul de soluţii și client. Aceste instrumente aduc beneficii ambelor părţi, deoarece oferă posibilităţi de îmbunătăţire sau atenţionează asupra problemelor potențiale.
În ziua de azi, tehnologiile de ultimă generaţie au pus bazele celei de-a patra revoluţii industriale ce are loc prin intermediul unei reţele complexe de dispozitive și canale de comunicare. Reţeaua Information Technology (IT) ce crește mereu în complexitate reprezintă și o trecere de la "societatea materială" la "societatea informaţională" (H. Boisot et al. 2007).
Mai mult, în timp ce productivitatea crește, tehnologia amplifică falia management-angajaţi (Meleka, J.,1983), deoarece angajaţii percep mașinile/utilajele drept o ameninţare (Blum, A. A., 1964), ceea ce duce la tensiuni. În acest context, managementul organizaţional trebuie să facă faţă unui grad nemaiîntâlnit de incertitudine și impredictibilitate.
Dispozitivele conectate la Internet (the Internet of Things sau IoT), își propun să rezolve problemele prin abordări inovatoare precum Nest (un termostat inteligent de la Google), Amazon Echo (un dispozitiv online de recunoaștere vocală), uși cu recunoaștere facială și aparate de cafea inteligente (Nespresso) printre multe altele. Ca rezultat, interdependența dintre tehnologii combinată cu conectivitatea globală șterge graniţele sistemice ale modelelor deterministice tradiţionale, ceea ce duce la necesitatea creării de paradigme noi (Merali and McKelvey, 2006) ce pot fi folosite pentru a defini proceduri pentru controlul și predictibilitatea comportamentului viitorului sistem.
Mai mult, abilitatea robotului de a învăţa, precum și trăsăturile culturale sau "programarea colectivă" (Hofstede, 2001) ar trebui luate în calcul când se modelează un sistem complex ce presupune acceptarea roboţilor în organizaţii. Pe de altă parte, încrederea exclusiva în tooluri autonome îl poate face pe utilizator extrem de dependent, deci vulnerabil, ceea ce duce la "tragedia stăpânului" (Coeckelbergh, 2015). Prin prisma consideraţiilor anterioare, o paradigmă newtoniană pare o suprasimplificare a realităţii curente, iar cercetarea trebuie să se axeze pe sisteme mai puţin deterministe.
Piramida Maslow ce compară oamenii și mașinile, conform Imaginii 1, este o metaforă a evoluţiei mașinilor moderne. Provocările muncii alături de aceste sisteme complexe nu pot fi privite doar din perspectivă tehnică. Trebuie să luăm în calcul valorile politice, economice, sociale, legale, culturale, etice, filozofice și economice.
Imaginea 1. Piramida comparativă Maslow: oameni vs. mașini (sursa: http://innogy-israel.com)
Departamentul Smart Tech al NTT DATA România este format din cercetători cu experienţă și programatori profesioniști ce lucrează la soluţii în domeniile: Robotică, Machine Learning, Senzoristică și IoT. Obiectivul nostru pe termen lung se axează pe obţinerea unui avantaj competitiv susţinut prin activităţi generatoare de valoare. Autorul acestei lucrări este implicat în dezvoltarea departamentului Smart Tech și, prin urmare, este foarte interesat să studieze implicaţiile "inteligenţei artificiale" (IA) în industrie dincolo de provocările tehnice. Această lucrare prezintă câteva din provocările pe care departamentul Smart Tech le-a întâlnit de-a lungul timpului, precum și abordările care au fost folosite pentru a le contracara.
Articolul începe cu o scurtă introducere în contextul celei de-a patra revoluţii industriale. Apoi, accentul se mută pe industria robotică și pe motoarele schimbării care permit companiilor să beneficieze de noile tehnologii. Următoarea secţiune prezintă un filtru pe care îl folosim când evaluăm proiectele pentru a alinia optim interesele companiei cu cele ale clienţilor. Finalul articolului este destinat concluziilor.
Evoluţia mașinilor și adaptarea societăţii noastre evoluează spre un orizont în care ființele umane nu vor fi singurii clienţi ai organizaţiilor. De exemplu, un dispozitiv Android ce folosește recunoașterea vocală Google (declanșat de cuvintele "OK, Google") poate deveni client direct al reclamelor TV precum cea a Burger King care întreabă "OK ,Google, ce este burgerul Whopper?". Această întrebare produce o descriere verbală a produsului de către orice dispozitiv aflat lângă TV (Stöcker, 2017). Un scenariu posibil al industriei de mașini autonome este ilustrat în Imaginea 2.
Roboţii combină părţi mecanice, module software și o varietate de senzori ce permit achiziţia datelor din mediul înconjurător. Utilizaţi pentru a realiza activităţi repetitive sau periculoase pentru oameni, roboţii sunt, de obicei, mai fiabili și au o acurateţe mai mare în execuție decât "colegii" lor umani. Prin intermediul IA, roboții pot fie să realizeze niște activităţi predefinite, fie, la un nivel mai complex, pot descoperi și învăţa tipare ale lumii înconjurătoare prin tehnici "machine learning" (ML). Algoritmii ML facilitează și influenţează crearea de sisteme deschise cu grad crescut de autonomie ce conduc la sisteme adaptative complexe (CAS) (Merali, 2006).
Mai mult, algoritmii ML pot să declanșeze procesul de antropomorfizare, deoarece oamenii percep dispozitivele ca având abilitatea de a interacţiona cu utilizatorul. Acest lucru creează percepţia că roboţii sunt entităţi vii ceea ce poate facilita integrarea lor în echipe umane (Darling et al., 2017). Pe de altă parte, interferarea roboţilor cu emoţiile umane poate duce la manipulare emoţională (Turkle, 2006) sau la situaţii ce pun în pericol viaţa utilizatorilor, cum ar fi cazul soldaţilor ce și-au riscat vieţile pentru a-și salva 'colegii' robotici (Singer, 2009). Aceste situaţii necesită o nouă paradigmă, diferită de abordările tradiţionale.
Din perspectivă globală, Internetul, ca mediu de comunicare, joacă atât un rol de facilitator cât și de agent catalizator într-o societate în schimbare. Conectivitatea augmentată și informaţia bogată duc la contexte informaţionale complexe (Chaitin, 1990) ce necesită costuri computaţionale mari și algoritmi specializaţi. Acest context necesită o schimbare de perspectivă de la nivelul unei organizaţii unice la o reţea de firme, de la activităţi bazate pe oameni la inteligenţă artificială și procese facilitate de mașini. Prin urmare, reţeaua de organizaţii este un fenomen cu origini în "transformarea cauzată de internet a economiei și a societăţii" (Merali, Y. 2006).
Schimbările ce au loc în sisteme complexe IT sunt generate de procese interconectate ale nivelului elemental al sistemului și ale interacţiunii sistemului cu mediul înconjurător (Allen and McGlade, 1987). Prin urmare, evoluţia este generată de adaptarea locală a constituenţilor elementali de-a lungul timpului (Merali and Allen, 2011), în cazul nostru, coexistenţa roboţilor cu oamenii. Această teorie este, de asemenea, reflectată de co-evoluţia tehnologiilor fizice și sociale, introduse de Nelson (2003). Astfel, adaptarea reciproca a oamenilor și a mașinilor este un element cheie pentru evoluţia organizaţiilor.
Una dintre cele mai importante abilităţi din domeniul IT în general și domeniul IA în particular este abilitatea de a identifica proiectele cu cea mai mare valoare strategică pentru ambele organizaţii: furnizorul de servicii și client. Similar, este important ca ambii parteneri să poată distinge un punct forte de o slăbiciune. Spre exemplu, experienţa lucrului cu o anume tehnologie poate fi considerată uneori o slăbiciune deoarece reprezintă un impediment în adoptarea de noi tehnologii.
Conform lui Mintzberg (1990), strategia este rezultatul potrivirii dintre abilităţi și oportunităţi. Prin urmare, conform școlii de gândire Andrews (Andrews, 1976), strategia se construiește pe evaluarea contextelor externe și interne, primul scoţând în evidenţă pericole și oportunităţi ce definesc factorii cheie de succes, cel de-al doilea scoţând în evidenţă punctele forte și slăbiciunile ce însoțesc competenţele specifice. În cele din urmă, competitorii trebuie să nu poată egala sau reproduce beneficiile aduse de strategie (Barney 1991, p. 102). De asemenea, o strategie consistentă trebuie să ia în calcul și responsabilitatea socială și valorile organizaţionale.
Dezvoltarea modelelor conceptuale poate clarifica înţelegerea pe care o avem asupra sistemelor complexe, care implică legături între oameni, roboţi și organizaţii. Din moment ce roboţii afectează atât procesele organizaţiilor, cât și rutina angajaţilor, utilizarea lor în industrie nu are încă procese clar definite și induce provocări la toate nivelele organizaţiilor. Paradigma Cynefin (Snowden, D. 2002) este un instrument pentru clarificarea situațiilor complexe ce poate să fie utilizat pentru abordarea fiecărei situaţii particulare în procesele industriale care implică roboţi.
Impactul acestor noi tehnologii poate fi înţeles prin prisma construcţiei de dispozitive ontologice și epistemologice care modelează interacţiunea dintre utilizatori și roboţi simultan cu cea dintre angajaţi și management (Meleka, J., 1983) și gestionarea aspectelor precum: auto-organizarea, adaptarea, emergenţa și transformarea (Child et. al., 2014).
Oportunităţile noi trebuie filtrate prin intermediul unui test preliminar menit să elimine din coada de așteptare proiectele potențiale care nu sunt aliniate cu strategia departamentului sau care pot produce pierderi de timp sau resurse. În primul rând, trebuie să evaluăm gradul de înţelegere pe care clientul o are asupra problemei. De asemenea, trebuie să evaluăm dacă putem rezolva problema. Apoi, trebuie să ne asigurăm în legătură cu disponibilitatea clienţilor de a suporta costul soluţiei. O altă întrebare importantă este legată de evaluarea motivelor pentru care clientul va alege soluţia noastră și nu pe cea a concurenței. În final, trebuie evaluat costul oportunităţii, astfel încât să se ia decizia de a merge mai departe cu implementarea soluţiei sau nu.
Când proiectul este considerat fezabil și aliniat strategiei companiei, este nevoie de o analiză mai profundă a clientului. Imaginea 3 prezintă o privire de ansamblu a metodologiei de verificare a gradului de adaptare la Industria 4.0, așa cum este propusă de IW Consult (subsidiară a Cologne Institute for Economic Research) și de Institutul de Management Industrial (FIR) de la RWTH Aachen University. O evaluare realizată pe cele 6 dimensiuni de mai jos poate scoate în evidenţă direcţii de îmbunătăţire sau chiar semnale de alarmă.
Dimensiunea Strategy and organization (Strategie și organizare) investighează gradul în care conceptul de Industrie 4.0 este prezent în strategia clientului. Industria 4.0 nu doar că îmbunătăţește produsele sau procesele existente prin intermediul tehnologiilor digitale - ci oferă oportunitatea de dezvoltare a unei noi paradigme de business. Prin urmare, implementarea acesteia este de o importanţă strategică.
Dimensiunea Smart factory (Fabrică inteligentă) investighează gradul în care compania are sisteme cyber-fizice integrate digital și automatizate. O fabrică inteligentă (SF) este formată din sisteme de producţie și logistică ce se organizează fără intervenţie umană. SF conectează lumea fizică cu lumea virtuală prin intermediul sistemelor cyber-fizice (CPS) care comunică printr-o infrastructură IT numită și Internet of Things (Internetul Lucrurilor). Prin urmare, SF permite utilizarea eficientă a resurselor.
Imaginea 3. Perspectivă de ansamblu a modului de testare a nivelului de adaptare la Industria 4.0. (sursa: https://www.industrie40-readiness.de)
Dimensiunea Smart operations (Operaţii inteligente) clarifică gradul în care procesele și produsele companiei sunt modelate digital și controlabile prin sisteme ICT și algoritmi într-o lume virtuală.
Una dintre cele mai importante trăsături din Industria 4.0 este abilitatea de a integra lumea fizică și lumea virtuală în toate dimensiunile companiei. Noile forme de sisteme de planificare a producţiei (production planning systems - PPS) și gestionarea lanţului de aprovizionare (supply chain management - SCM) sunt posibile datorită datelor disponibile azi.
Dimensiunea Smart products (Produse inteligente) măsoară gradul în care compania poate controla produsele sale utilizând IT și le poate utiliza pentru a comunica și interacţiona cu sisteme de nivel înalt pe parcursul lanţului valoric. Produsele fizice pot colecta propriile date și informaţii din mediul înconjurător prin intermediul senzorilor, RFID, interfeţe de comunicare, etc. . Când produsele pot achiziţiona/acumula date și pot comunica cu sisteme de nivel înalt, procesele de producţie pot fi optimizate și controlate în timp real. Mai mult, produsele inteligente fac ca aplicaţiile să meargă dincolo de o simplă producţie. De exemplu, noile servicii sunt facilitate prin comunicări între clienţi și furnizori.
Dimensiunea Data driven services (Servicii bazate pe date) estimează gradul în care compania oferă servicii axate pe date ce sunt posibile doar prin integrarea produselor, producţiei și a clienţilor. Obiectivul final este de a crește beneficiile oferite clientului. Așa cum s-a arătat anterior, produsele fizice trebuie să aibă capacități de comunicare pentru a trimite, primi sau procesa informaţia necesară proceselor operaţionale.
Dimensiunea Employees (Angajaţi) reprezintă resursa principala a companiilor tehnologice și este important de evaluat dacă există abilităţile necesare pentru a implementa conceptele Industriei 4.0. Angajaţii sunt forţa care pune în mișcare transformarea digitală a companiilor, dar sunt cei mai afectați de schimbări. Schimbările din mediul de lucru fac ca angajaţii să trebuiască să dobândească noile abilităţi și calificări. Prin urmare, companiile trebuie să ţină cont de această realitate și să-și pregătească angajaţii prin programe de formare.
Pe baza informaţiilor aflate anterior, putem evalua cât de pregătit este clientul să accepte soluţia propusă sau să i se propună soluţii noi în vederea atingerii obiectivului principal.
Un instrument pentru analiza organizaţiei clientului este realizarea unui model conform sistemului tradiţional de gândire care vede sistemul definit drept 'un întreg' format dintr-un număr de părţi interconectate. Cu toate acestea, evoluţia tehnologică curentă produce instabilitate atât la nivelul structurii modelului (apar noi variabile și ecuaţii), cât și la nivelul psihologiei echipelor implicate în aceste tehnologii (Darling et al., 2017). Prin urmare, clasicul System Dynamics poate să ne inducă în eroare când structura modelată nu mai reflectă realitatea, precum în cazul unei reţele de dispozitive cu abilităţi de învăţare.
Drept alternativă, Beer (1985) a introdus conceptul Viable System Model (VSM). Tiparul VSM este relativ simplu, dar puternic, deoarece poate fi reprodus la toate nivelele organismului modelat, similar unui fractal. Astfel, cele cinci funcţii esenţiale ale modelului VSM pot fi întâlnite în organizaţii robotice: implementare, coordonare, control, inteligenţă și politici.
System Dynamics și VSM presupun stabilitate structurală, dar au fost criticate deoarece ignoră efectele (imprevizibile) ale noilor tehnologii asupra factorilor umani (Merali and Allen 2011), precum sunt efectele emoţionale pozitive sau negative ale roboţilor asupra oamenilor, așa cum au fost descrise mai sus. Mai mult, VSM nu poate modela falia dintre roboţi și oameni în ceea ce privește controlul și cooperarea. În timp ce comportamentul roboţilor este determinabil și previzibil, oamenii dezvoltă bariere complexe în cooperare: contracte psihologice (Rousseau, 2001), probleme culturale (Laurent, 1989) sau oboseală, printre altele. Astfel, stabilitatea sistemului devine o provocare, iar consecinţa instabilităţii este imprevizibilitatea.
Soft Systems Methodology (Checkland and Scholes, 1990) poate fi aplicată în gestionarea schimbărilor tehnologice, deoarece implică si dimensiunea umană și percepţii bazate pe valoare. SSM oferă o viziune holistică a problemei considerând perspectiva tuturor factorilor decidenţi.
Agent Based Models (ABMs) se axează pe problemele sociale ce pot modela sisteme sociale complexe (Sun, 2006). Când agenţii pot învăţa, modelul devine versatil și poate aborda sistemele cu interacţiuni sociale complexe. Un model bazat pe capacitatea de învăţare se poate adapta la schimbări mai ales datorita abilității agenţilor de a se autoperfecționa. Când agenţii umani sau informaţionali ai unei organizaţii sunt aliniaţi, ei dau naștere unei culturi comune și partajate (Merali and McKelvey, 2006).
Abordarea gândirii complexe, axată pe sisteme structurate și delimitate, ar trebui să se axeze mai degrabă pe reţele și sisteme dinamice (Merali, 2006). Prin urmare, paradigma CAS, ce consideră cuplul sistem-mediu înconjurător drept un binom cu evoluţie mutuală, este o paradigmă mult mai potrivită pentru modelarea sistemelor robotice. Aceeași idee a fost sugerată, acum mai bine de trei decade, de întrebarea lui Meleka: "Will the robot change the world or will the world change the robot?" ("Va schimba robotul lumea sau va schimba lumea robotul?") (Meleka, 1983).
Sistemele robotice AI tind să fie sisteme deschise auto- organizate. Astfel, modelele corespunzătoare ar trebui inspirate de biologie. De exemplu, cele mai importante trei modele de gândire ar fi (Merali, Y. 2006): structurile disipative ale sistemelor chimice, autopoeza și dinamica evoluţionară în viaţa artificială și ecosisteme. Deși roboţii nu sunt încă capabili de autopoeză fizică (autoproducere), tehnicile ML, precum deep learning, exploatează costurile în scădere ale puterii de procesare și se auto-învaţă pe sine cum să înveţe, precum în celebrul exemplu al reţelelor neuronale ale Google (alimentat de 16.000 de procesoare) care au învăţat singure cum să găsească pisici în filmuleţele de pe Youtube (Markoff, J., 2012).
Critica modelelor biologice aplicate organizaţiilor umane are legătură cu eșecul lor de a lua în considerare trăsături comportamentale umane precum liberul arbitru. Cu toate acestea, utilizarea crescândă a sistemelor automate poate duce la structuri care sunt mai apropiate de natură decât organizaţiile formate doar din oameni. Robotul medical DaVinci sau mașinile autonome sunt exemple bune: mașinile permit operatorului să execute lucrări de precizie înaltă și sunt programate pentru a suprima eșecurile posibile erorilor umane.
În final, o analiză estimativă a posibilei companii colaboratoare este îmbogățită de o privire de ansamblu a istoriei comune a celor două organizații. Mai mult, peisajul competitiv poate fi cercetat utilizând instrumente precum analiza Rich Picture și PESTLE. De asemenea, obiectivele clientului trebuie clarificate și aliniate la cele ale furnizorului de servicii.
În lumina informaţiilor prezentate mai sus, se poate folosi o analiză SWOT pentru a determina oportunitatea de a investi sau nu într-un proiect. Disponibilitatea resurselor și claritatea domeniului sunt parametri ce trebuie folosiţi pentru luarea deciziei finale.
Acest articol a abordat problema gestiunii dezvoltării de tehnologie IA în contextul industrial curent. Articolul ia în calcul schimbarea de paradigmă care este necesară pe măsură ce societatea se deplasează gradual de la o societate materială la o societate bazată pe informaţie, facilitată de utilizarea IoT. Prin urmare, gestionarea cunoașterii și dinamica informaţiei în organizaţii sunt cruciale pentru supravieţuire și evoluţie. Cunoașterea evoluează și circulă între organizaţii conectate, mult mai rapid decât materialele.
De asemenea, este interesant să considerăm impactul dimensiunii emoţionale a oamenilor în relaţie cu "colegii" roboţi. Interesele antagoniste ale managementului și ale angajaţilor rezultă în fricţiuni în privinţa adoptării roboţilor în organizaţii. Aceste tensiuni sunt influenţate și de dimensiunea culturală și de antropomorfizare, ambele induse de dispozitivele inteligente. Mai mult, roboţii vor influenţa puternic procesul de angajare punând presiune asupra unor ocupaţii precum cele din logistică (Carl, 2016), administraţie, testare software etc. . Prin urmare, angajaţii trebuie să fie dispuși să înveţe și să se adapteze, în timp ce organizaţiile trebuie să faciliteze partajarea cunoașterii la toate nivelele organizaţiei.
Cooperarea de succes între furnizorul de servicii și client ar trebui să facă obiectivul unei analize similare cu cea detaliată în Secţiunea 3 ce cuprinde patru pași: 1) verificarea oportunităţii preliminare ce are în vedere mai multe criterii pentru a înţelege dacă este posibilă colaborarea între părţi; 2) evaluarea colaborării cu clientul pe șase dimensiuni; 3) evaluarea gradului în care clientul este pregătit să accepte și să implementeze soluţia propusă; 4) evaluarea finală ce ţine cont de factori suplimentari.
În final, putem concluziona că este foarte important să înţelegi și să gestionezi organizaţiile complexe din prezent. Este nevoie de o schimbare importantă în modul de gândire a leadership-ului ce trebuie să treacă de la abordările tradiţionale atât pe partea furnizorului de servicii, cât și pe partea clientului.
Allen, P.M. and McGlade, J.M. (1987) Evolutionary drive: the effect of microscopic diversity, error making and noise, Foundation of Physics, 17(7): 723-728.
Beer S. (1985), Diagnosing the system for organizations. Wiley, London
Blum, A. A. (1964), America's Reactions To Technological Change And Automation: A Comparative View. Management of Personnel Quarterly (Pre-1986), 3(3), 12.
Checkland, P.B. and Scholes, J. (1990), Soft Systems Methodology. UK: Wiley.
Child, J., Ihrig, M.,Merali, Y., (2014), Organization as Information - a Space Odyssey, Organization Studies, 2014, SAGE Publications Ltd
Coeckelbergh, M. (2015), The tragedy of the master: Automation, vulnerability, and distance. Ethics and Information Technology, 17(3), 219-229.
Darling, Kate, (2017), 'Who's Johnny?' Anthropomorphic Framing in Human-Robot Interaction,
Integration, and Policy (March 23, 2015). Robot Ethics 2.0, eds. P. Lin, G. Bekey, K. Abney, R.
Jenkins, Oxford University Press, 2017, Forthcoming.
H. Boisot, Max & MacMillan, Ian & Han, Kyeong. (2007), Property Rights and Information Flows: A Simulation Approach. Journal of Evolutionary Economics. 17. 63-93.
Hofstede, G., (2001), Culture's consequences: Comparing values, behaviors, institutions, and
organizations across nations, 2nd edn., Thousand Oaks, CA: Sage Publications.,
Laurent (1989), Laurent, A., A cultural view of organizational change, Human Resource
Management in International Firms, London: Macmillan, 83-94
Markoff, J., 2012, How Many Computers to Identify a Cat? 16,000,
Nelson, R., 2003, Physical and Social Technologies, and Their Evolution, Working Paper, Laboratory of Economics and Management Sant'Anna School of Advanced Studies. Pisa, Italy.
Mintzberg, H. (1979), The structuring of organizations: a synthesis of the research. Englewood Cliffs, NJ: Prentice-Hall.
Merali, Y. and Allen, P. (2011), Complexity and systems thinking. In P. AllenS. Maguire & B. McKelvey, The sage handbook of complexity and management (pp. 30-52). London: SAGE Publications Ltd.
Merali, Y., McKelvey, B. (2006), Using Complexity Science to effect a paradigm shift in Information Systems for the 21st century, "Journal of Information Technology 21" (4), 211-215
Meleka, J. (1983), Will the robot change the world or will the world change the robot?-A user point of view in ,,Journal of the Royal Society for the Encouragement of Arts, Manufactures and Commerce", 131(5327), 657.
Merali, Y., McKelvey, B. (2006), Using Complexity Science to effect a paradigm shift in Information Systems for the 21st century in ,,Journal of Information Technology 21" (4), 211-215
Rousseau, D. (2001), ,Schema, promise and mutuality: the building blocks of the psychological contract in ,,Journal of Occupational and Organizational Psychology", Vol. 74, pp. 511-41.
Sun R. (ed). (2006), Cognition and Multi-Agent Interaction: From Cognitive Modeling to Social Simulation, Cambridge University Press: Cambridge.
Turkle, Sherry. 2006. "A Nascent Robotics Culture: New Complicities for Companionship." AAAI
Technical Report Series. http://web.mit.edu/~sturkle/www/nascentroboticsculture.pdf.
Singer, Peter. 2009, Wired for War: The Robotics Revolution and Conflict in the 21st Century, Penguin Books.