Rita Barros/Guliver/Getty Images

Adrian Cioroianu: „70 de ani după: «Legile» lui Asimov, inclusiv în dezbaterile de la UNESCO”11 min read

De Adrian Cioroianu 26.06.2020

Seria „Asimov și roboții săi: Întâlniri de gradul III” se încheie cu un text despre cât de actual este Asimov, la 70 de ani de la inventarea legilor roboticii.

Atât de des, în ultimii ani, m-am gândit, iar și iar, la Isaac Asimov, încât în momentul în care Horia Nicola Ursu m-a contactat, am avut acel sentiment al bizareriei, pe care sunt convins că îl cunoașteți: fără a crede neapărat în paranormal, observi totuși cum destinul sau providența ne aranjează orizontul proxim: e suficient să te gândești mai mult la ceva și apoi vei întâlni acel ceva unde te aștepți mai puțin.

CITEȘTE ȘI: Asimov și roboții săi: Întâlniri de gradul III (Partea I) (Partea a II-a)

Iată despre ce este vorba: în mod categoric, viitorul nostru (pe termen scurt, ca generații trăitoare acum, dar și pe termen lung, ca specie) va fi influențat de uriașa revoluție pe al cărei prag suntem: o revoluție determinată de biotehnologii, nanotehnologii, inteligență artificială, editare și programare de gene etc. Sunt oameni de încredere care spun că această mega-revoluție a secolului XXI va fi de o inedită magnitudine, comparabilă (sau mai importantă) cu revoluția agricolă din neolitic (cea care a dus la primele recolte, la sedentarizarea oamenilor, la ierarhii, armate, orașe, state, imperii etc.) – adică mult peste revoluția industrială din secolul XIX sau cea digitală din secolul XX.

Și, tocmai pentru că suntem mulți cei care credem că ea va fi atât de importantă, consecința logică este că această revoluție a inteligenței artificiale (IA) și a omului re-creat de el însuși și cu ajutorul IA (adică, trans-humanism) va avea neapărată nevoie de un cod etic. Oamenii, din negura timpului și până azi, mereu s-au temut de necunoscut; deci, este cu totul firesc să ne temem de propriile noastre (viitoare) creații – cu atât mai mult cu cât, din mitologia greco-romană și până la Golemul din Chelm, ucenicul vrăjitor sau Frankenstein, sau Gregor Clegane (din serialul Games of Thrones) ș.cl., cultura noastră este plină de artefacte (re-)create care, la un moment dat, nu-și mai ascultă stăpânul. Sau vezi acest reper fundamental al lumii creștine care este Biblia: nu sunt, Adam și Eva, niște creații care, dintr-un motiv oarecare, ies de sub controlul Creatorului?

Ei bine, dată fiind această ancestrală spaimă, speranța oamenilor care suntem este aceea de a stabili un cod moral și o etică fermă a acestei revoluții viitoare, mai înainte ca ea să ne surprindă prin dezvoltări pe care azi poate nu le bănuim! UNESCO (ramură a ONU dedicată Educației, Sțiinței, Culturii și Comunicării) este una dintre instituțiile diplomației multilaterale care ar putea face un astfel de „manual” al eticii și moralei în folosirea viitoarei inteligențe artificiale. Ușor de zis, greu de realizat: cum SUA s-au suspendat din UNESCO acum doi ani și cum China a făcut, în ultimul deceniu, progrese majore în domeniul IA (vezi recunoașterea facială pe baza colectării de date ș.cl.), însăși dezbaterea despre IA a devenit una cu un subtext politic, geopolitic și chiar ideologico-futurologic. Acest detaliu face din ce în ce mai puțin probabil ca un acord plenar să fie stabilit, în lipsa unui acord între principalele state cu pionierate în domeniu: adică, SUA și China (UE este în topul cercetărilor de gen, dar e în urma primelor două).

Drept care, în multe instituții ale diplomației multilaterale – de la UNESCO la Parlamentul European – dezbaterile despre urgența acelui „manual de bune practici în domeniul IA” s-au accentuat în anii din urmă, chiar dacă media nu și-au dat seama de acest lucru. Și aici intervine puterea literaturii: acum 70 de ani (1950), scriitorul Isaac Asimov publica (în 5.000 de exemplare inițial, care între timp au devenit milioane, în toate limbile Pământului) faimoasa lui culegere de povestiri Eu, Robotul – cea care avea să dea naștere celui de-al doilea mare univers asimovian (al Roboților), după cel al Fundației.

În acel volum din 1950, într-o povestire scrisă chiar mai devreme (Runaround, 1942), Asimov schița celebrele sale trei legi. Nu le mai repet aici, nu cred că există cititor de SF sau, pur și simplu, om educat care să nu fi auzit de ele.

Fără nici un fel de surpriză, aceste legi sunt și astăzi în centrul tuturor dezbaterilor, mai ales în părțile democratice ale lumii, cu privire la necesitatea reglementărilor IA. Nu există, astăzi, un text care să condenseze mai bine și mai precis așteptările și speranțele noastre decât acele trei legi sugerate de Isaac Asimov în anul 1942. Între timp, filosofi sau savanți i-au mai adăugat altele, complementare, sau alții și-au imaginat cum chiar acele legi ar putea fi scurtate/trucate (Asimov a avut precauția de a avertiza asupra acestui lucru, în povestirea – scrisă în 1947 – Little lost robot/Micul robot pierdut, ce apare în volumul-far din 1950).

Așadar, nu sunt multe de adăugat: după 70 de ani, în pregătirea unor vremuri pe care, atunci, Isaac Asimov nu avea cum să le prevadă, iată că „legile” sale destinate roboților aka Inteligenței Artificiale sunt astăzi mai valabile decât în momentul în care le-a scris propriul lor autor! Iată ce înseamnă o idee de geniu: ca la 70 de ani după ce un autor enunță o idee, acea idee să devină mai importantă decât în contextul lansării ei!

Ca detaliu istoric și fără a compara merele cu perele, vă voi spune că la fel s-a întâmplat cu manifestul comunist al lui Marx & Engels – publicat în 1848, el a devenit litera de lege a revoluției bolșevice a lui Lenin, din 1917-1918. Adică, 70 de ani mai târziu.

Din acest punct de vedere, admir clarviziunea lui Isaac Asimov, dar mi-aș dori ca istoria să nu se repete.

PS: Și, pentru toții fanii SF și ai universului asimovian al Roboților, care au trecut (cu bine, sper) prin carantina COVID-19, nu pot decât să le reamintesc planeta Solaria din romanul Soarele gol, în care o populație stabilă numeric stă închisă pe proprietățile ei, dar nu poate trăi fără roboți/IA, adică o lume în care oamenii păstrează între ei o distanță fizică/socială (!) și în care comunicarea se face numai prin tehnologie (față în față e un concept depășit), în care hologramele înlocuiesc vizitele între rude.
Încă odată, sper ca Isaac Asimov să nu fi (pre)văzut bine acel viitor al nostru.



Text de

Adrian Cioroianu

Este profesor la facultatea de istorie a Universității București. A scris numeroase lucrări în care se preocupă cu deosebire de istoria României în anii comunismului. A fost ministru de externe, iar în prezent este ambasadorul României la UNESCO. Este un cititor pasionat deopotrivă de benzile desenate, literatura polițistă și science fiction.


Mini-antologie de

Horia Nicola Ursu

Lucrează în domeniul editorial de peste 25 de ani. A fost coordonator al unor colecții la editurile RAO, Dacia, Bastion, Millennium și Paladin, a întemeiat și condus, vreme de 12 ani, editura Millennium, a editat (singur sau în colaborare cu Michael Haulică și Jeff VanderMeer) șase antologii de proză fantasy & science fiction, iar în prezent lucrează ca traducător freelancer.

CULTURĂ|FILM&TV

Werner Herzog și meteoriții

De Cristi Mărculescu 23/11/2020
Fireball: Visitors from Darker Worlds este acel documentar care confirmă o suspiciune mai veche apropos de Werner Herzog. Tipul a devenit în mod oficial un gen cinematografic în sine. 
CULTURĂ|TIPPING POINT

Un efect secundar al pandemiei: anul fără blockbustere

De Mihnea Dumitru 12/11/2020
În 2019, „Avengers. Endgame” bătea toate recordurile de încasări. Anul acesta, cel mai de succes film e unul istoric din China, care și-a făcut toți banii pe piața locală. Coronavirusul a virusat inclusiv industria cinematografică.
CULTURĂ|FILM&TV

John Wilson, tipul care documentează New York-ul cu o cameră video

De Mihai Ghiduc 11/11/2020
Protagonistul serialului documentar How To with John Wilson ne-a vorbit despre New York, cum e să filmezi lucruri trăsnite pe stradă și ce înseamnă pandemia pentru un artist
CULTURĂ|GAMING SPOTLIGHT

Jocurile românești au săptămâna lor pe Steam

De Ionuț Preda 04/11/2020
Industria jocurilor video din România are în sfârșit parte de ceva atenție, iar producătorii propun o serie de titluri indie interesante.