Rita Barros/Guliver/Getty Images

Adrian Cioroianu: „70 de ani după: «Legile» lui Asimov, inclusiv în dezbaterile de la UNESCO”11 min read

De Adrian Cioroianu 26.06.2020

Seria „Asimov și roboții săi: Întâlniri de gradul III” se încheie cu un text despre cât de actual este Asimov, la 70 de ani de la inventarea legilor roboticii.

Atât de des, în ultimii ani, m-am gândit, iar și iar, la Isaac Asimov, încât în momentul în care Horia Nicola Ursu m-a contactat, am avut acel sentiment al bizareriei, pe care sunt convins că îl cunoașteți: fără a crede neapărat în paranormal, observi totuși cum destinul sau providența ne aranjează orizontul proxim: e suficient să te gândești mai mult la ceva și apoi vei întâlni acel ceva unde te aștepți mai puțin.

CITEȘTE ȘI: Asimov și roboții săi: Întâlniri de gradul III (Partea I) (Partea a II-a)

Iată despre ce este vorba: în mod categoric, viitorul nostru (pe termen scurt, ca generații trăitoare acum, dar și pe termen lung, ca specie) va fi influențat de uriașa revoluție pe al cărei prag suntem: o revoluție determinată de biotehnologii, nanotehnologii, inteligență artificială, editare și programare de gene etc. Sunt oameni de încredere care spun că această mega-revoluție a secolului XXI va fi de o inedită magnitudine, comparabilă (sau mai importantă) cu revoluția agricolă din neolitic (cea care a dus la primele recolte, la sedentarizarea oamenilor, la ierarhii, armate, orașe, state, imperii etc.) – adică mult peste revoluția industrială din secolul XIX sau cea digitală din secolul XX.

Și, tocmai pentru că suntem mulți cei care credem că ea va fi atât de importantă, consecința logică este că această revoluție a inteligenței artificiale (IA) și a omului re-creat de el însuși și cu ajutorul IA (adică, trans-humanism) va avea neapărată nevoie de un cod etic. Oamenii, din negura timpului și până azi, mereu s-au temut de necunoscut; deci, este cu totul firesc să ne temem de propriile noastre (viitoare) creații – cu atât mai mult cu cât, din mitologia greco-romană și până la Golemul din Chelm, ucenicul vrăjitor sau Frankenstein, sau Gregor Clegane (din serialul Games of Thrones) ș.cl., cultura noastră este plină de artefacte (re-)create care, la un moment dat, nu-și mai ascultă stăpânul. Sau vezi acest reper fundamental al lumii creștine care este Biblia: nu sunt, Adam și Eva, niște creații care, dintr-un motiv oarecare, ies de sub controlul Creatorului?

Ei bine, dată fiind această ancestrală spaimă, speranța oamenilor care suntem este aceea de a stabili un cod moral și o etică fermă a acestei revoluții viitoare, mai înainte ca ea să ne surprindă prin dezvoltări pe care azi poate nu le bănuim! UNESCO (ramură a ONU dedicată Educației, Sțiinței, Culturii și Comunicării) este una dintre instituțiile diplomației multilaterale care ar putea face un astfel de „manual” al eticii și moralei în folosirea viitoarei inteligențe artificiale. Ușor de zis, greu de realizat: cum SUA s-au suspendat din UNESCO acum doi ani și cum China a făcut, în ultimul deceniu, progrese majore în domeniul IA (vezi recunoașterea facială pe baza colectării de date ș.cl.), însăși dezbaterea despre IA a devenit una cu un subtext politic, geopolitic și chiar ideologico-futurologic. Acest detaliu face din ce în ce mai puțin probabil ca un acord plenar să fie stabilit, în lipsa unui acord între principalele state cu pionierate în domeniu: adică, SUA și China (UE este în topul cercetărilor de gen, dar e în urma primelor două).

Drept care, în multe instituții ale diplomației multilaterale – de la UNESCO la Parlamentul European – dezbaterile despre urgența acelui „manual de bune practici în domeniul IA” s-au accentuat în anii din urmă, chiar dacă media nu și-au dat seama de acest lucru. Și aici intervine puterea literaturii: acum 70 de ani (1950), scriitorul Isaac Asimov publica (în 5.000 de exemplare inițial, care între timp au devenit milioane, în toate limbile Pământului) faimoasa lui culegere de povestiri Eu, Robotul – cea care avea să dea naștere celui de-al doilea mare univers asimovian (al Roboților), după cel al Fundației.

În acel volum din 1950, într-o povestire scrisă chiar mai devreme (Runaround, 1942), Asimov schița celebrele sale trei legi. Nu le mai repet aici, nu cred că există cititor de SF sau, pur și simplu, om educat care să nu fi auzit de ele.

Fără nici un fel de surpriză, aceste legi sunt și astăzi în centrul tuturor dezbaterilor, mai ales în părțile democratice ale lumii, cu privire la necesitatea reglementărilor IA. Nu există, astăzi, un text care să condenseze mai bine și mai precis așteptările și speranțele noastre decât acele trei legi sugerate de Isaac Asimov în anul 1942. Între timp, filosofi sau savanți i-au mai adăugat altele, complementare, sau alții și-au imaginat cum chiar acele legi ar putea fi scurtate/trucate (Asimov a avut precauția de a avertiza asupra acestui lucru, în povestirea – scrisă în 1947 – Little lost robot/Micul robot pierdut, ce apare în volumul-far din 1950).

Așadar, nu sunt multe de adăugat: după 70 de ani, în pregătirea unor vremuri pe care, atunci, Isaac Asimov nu avea cum să le prevadă, iată că „legile” sale destinate roboților aka Inteligenței Artificiale sunt astăzi mai valabile decât în momentul în care le-a scris propriul lor autor! Iată ce înseamnă o idee de geniu: ca la 70 de ani după ce un autor enunță o idee, acea idee să devină mai importantă decât în contextul lansării ei!

Ca detaliu istoric și fără a compara merele cu perele, vă voi spune că la fel s-a întâmplat cu manifestul comunist al lui Marx & Engels – publicat în 1848, el a devenit litera de lege a revoluției bolșevice a lui Lenin, din 1917-1918. Adică, 70 de ani mai târziu.

Din acest punct de vedere, admir clarviziunea lui Isaac Asimov, dar mi-aș dori ca istoria să nu se repete.

PS: Și, pentru toții fanii SF și ai universului asimovian al Roboților, care au trecut (cu bine, sper) prin carantina COVID-19, nu pot decât să le reamintesc planeta Solaria din romanul Soarele gol, în care o populație stabilă numeric stă închisă pe proprietățile ei, dar nu poate trăi fără roboți/IA, adică o lume în care oamenii păstrează între ei o distanță fizică/socială (!) și în care comunicarea se face numai prin tehnologie (față în față e un concept depășit), în care hologramele înlocuiesc vizitele între rude.
Încă odată, sper ca Isaac Asimov să nu fi (pre)văzut bine acel viitor al nostru.



Text de

Adrian Cioroianu

Este profesor la facultatea de istorie a Universității București. A scris numeroase lucrări în care se preocupă cu deosebire de istoria României în anii comunismului. A fost ministru de externe, iar în prezent este ambasadorul României la UNESCO. Este un cititor pasionat deopotrivă de benzile desenate, literatura polițistă și science fiction.


Mini-antologie de

Horia Nicola Ursu

Lucrează în domeniul editorial de peste 25 de ani. A fost coordonator al unor colecții la editurile RAO, Dacia, Bastion, Millennium și Paladin, a întemeiat și condus, vreme de 12 ani, editura Millennium, a editat (singur sau în colaborare cu Michael Haulică și Jeff VanderMeer) șase antologii de proză fantasy & science fiction, iar în prezent lucrează ca traducător freelancer.

CULTURĂ|BOOK CLUB

Cum s-au inventat vaccinurile moderne

De Valentina Nicolae 08/09/2020
În septembrie îți prezentăm cărți despre epidemii și vaccinuri, despre posibilele sfârșituri ale Pământului, despre design și dizabilitate, extratereștri și o colecție de eseuri de Oliver Sacks
ȘTIINȚĂ|BOOK CLUB

Cum a câștigat Homo Sapiens cursa evoluției?

De Mindcraft Stories 31/08/2020
Descoperiri arheologice recente schimbă tot ce știam despre apariția omului, cum s-a răspândit specia pe Pământ și ceilalți membri ai speciei Homo. Cartea „Sapiens. Cele mai recente descoperiri”, apărută la editura Humanitas, ne aduce la zi cu trecutul nescris al omenirii.
CULTURĂ|Q&A

1994, ultimul an fără internet pentru români, devine joc video 

De Vlad Tăușance 29/08/2020
O echipă formată din artiști și programatori din România și Marea Britanie au lucrat în ultimele luni la un joc video care povestește cum arăta viața dinainte de internet. 
CULTURĂ|GAMING SPOTLIGHT

De ce e ipocrită folosirea 1984 în dispute comerciale. Cazul Apple-Epic Games

De Ionuț Preda 24/08/2020
Giganții tech nu pierd nicio ocazie să ne-arate că nu înțeleg conceptul de ironie.