Yuichiro Chino/Getty Images

„Avem nevoie de cele trei legi ale AI-ului etic.” Interviu cu Scott Koslosky

De Mihai Ghiduc 03.12.2020

Am vorbit cu futurologul Scott Koslosky despre problemele etice ale inteligenței artificiale, despre mașinile inteligente și despre cum va schimba tehnologia viitorul omenirii.

Scott Koslosky este fondatorul Future Point of View, o firmă de strategie în tehnologie,Site oficial: fpov.com futurolog și unul dintre cei peste 30 de speakeri ai conferinței Digital DNA Summit,Poți afla detalii despre conferință și programul acesteia de aici: digitaldnasummit.com primul eveniment mondial pe tema synthetic (AI-created) media, organizat de start-up-ul românesc Humans,Site oficial: joinhumans.com care se va desfășura (desigur, online) în perioada 10-11 decembrie.

Scott este interesat de noile provocări pe care tehnologia le aduce lumii moderne, dar și optimist că ne vom adapta. El crede că, pentru ca viitorul să nu ne surprindă, trebuie să dezvoltăm încă de la început tehnologiile într-un mod etic și propune niște legi pentru inteligența artificială similare celor gândite de Asimov acum zeci de decenii pentru niște roboți ipotetici. Cu diferența că inteligența artificială nu e o povestire SF, e deja printre noi. Am vorbit cu el despre asta și despre alte provocări ale viitorului.

Scott Klososky

Mindcraft Stories: Promovezi termenul de Humalogy. Poți să îl explici?

Scott Koslosky: Humalogy este un concept pe care l-am dezvoltat la Future Point of View pentru a ajuta la descrierea echilibrului adecvat dintre tehnologie și umanitate. Fiecare proces dintr-o organizație se încadrează undeva pe scala Humalogy. H5 este un proces complet uman, T5 este un proces complet digital, 0 este chiar în mijloc. Cu fiecare proces, trebuie găsit echilibrul perfect dintre tehnologie și efortul uman. Scopul este de a deservi cel mai bine clienții, concomitent cu a crea cel mai ridicat grad de eficiență în cadrul unei organizații. Nu întotdeauna este vorba despre a adăuga tehnologie. 

Suntem departe de a avea un director de pompe funebre digital. Rolurile care presupun empatie vor rămâne probabil mai umane. 

Pe de altă parte, de multe ori tehnologia poate fi sau trebuie injectată în procese pentru a crește eficiența și a maximiza experiența clienților. 

Care crezi că va fi următoarea tehnologie importantă?

S.K.: Următoarea tehnologie importantă va fi machine intelligence. Există însă un anumit nivel de neînțelegere cu privire la ce este cu adevărat machine intelligence. Adesea se face confuzia cu inteligența artificială și învățarea automată (machine learning). 

Machine intelligence este un ecosistem care include robotică, automatizarea proceselor robotizate (RPA), inteligență artificială, recunoaștere vizuală, vocală și a textului, învățare automată, învățare profundă (deep learning), motoare de recomandare, analize predictive în timp real și calcul cognitiv. 

Machine intelligence va transformă fiecare aspect al organizațiilor și al umanității. Cred că noi, în calitate de tehnologi, trebuie să ne străduim mai mult să descriem machine intelligence, în loc să ne rezumăm la a o include sub umbrela AI/ML. Este un concept mult mai complex și va avea un rol transformator. 

Crezi că ideea unui ADN digital, care va permite crearea de synthetic media pe baza datelor care definesc vocea, imaginea și gesturile unei persoane, îi va ajuta pe oameni să lucreze mai puțin și să câștige mai mult?

S.K.: Cred că instrumentele digitale vor fi un mare beneficiu pentru umanitate. Ne vor permite să ne petrecem timpul făcând lucruri pe care dorim să le facem, precum să dedicăm timp pasiunilor noastre, în timp ce tehnologia se va ocupa de sarcini mai banale. 

Cu siguranță îmi pot imagina o lume în care fiecare dintre noi are un „geamăn digital” care ne reprezintă în anumite medii digitale, ajutându-ne să ne ocupăm de sarcini pe care trebuie să le facem acum în mod uzual (cum ar fi să răspundem la e-mailuri simple sau să programăm întâlniri). 

Vom trăi în curând într-o lume în care eu, ca speaker, voi avea geamănul meu digital pe scenă, reprezentându-mă în fața unui public? Dacă da, cu siguranță voi putea susține mult mai multe discursuri.

 CITEȘTE MAI MULT: Un start-up românesc promite că ADN-ul tău digital va munci pentru tine

Suntem într-un moment în care aproape toată lumea are acces instant la toate informațiile disponibile și se pare că veriga cea mai slabă este menținerea atenției. Dar tot le cerem copiilor să învețe ca acum 100 de ani și adulților să lucreze opt ore pe zi. Cum vom depăși această problemă a diminuării capacității de atenție?

S.K.: Menținerea atenției este o aptitudine. Nu este vreo capacitate înnăscută aflată în afara controlului nostru. Am permis informațiilor digitale din jurul nostru să ne diminueze capacitatea de a ne concentra intenționat asupra unui lucru, chiar dacă lucrul respectiv nu este ceva impresionant sau acaparator prin magnitudinea sa. 

În curând vom afla că atenția trebuie cultivată și învățată, la fel cum se învață abilitatea de a alerga mulți kilometri. 

Din momentul în care nu ne vom mai gândi că menținerea atenției este în afara controlului nostru și, în schimb, îi vom ajuta pe tineri să învețe să se concentreze asupra a ceva, chiar dacă nu sunt foarte interesați, vom face progrese.

Tocmai m-am jucat puțin cu cea mai recentă versiune de Adobe Photoshop și sunt uimit de ce poate face Inteligența Artificială cu o imagine. Suntem pregătiți pentru momentul în care se poate face ceva similar cu un videoclip?

S.K.: Ca societate, cred că probabil nu suntem pregătiți pentru lucruri precum manipularea videoclipurilor, cum ar fi deepfakes, atunci când sunt utilizate pe scară largă. Cred că istoria recentă a arătat că oamenii sunt ușor de manipulat și foarte dependenți de propriile prejudecăți. Cu toate acestea, tehnologia va evolua împreună cu fenomenul de manipulare video, astfel încât aceste tipuri de videoclipuri să poată fi identificate rapid și să fie ori eliminate, ori etichetate ca fiind manipulate. Tehnologia poate ajuta la rezolvarea acestui lucru. Cu toate acestea, erodarea încrederii oamenilor în instituții, precum guvern, mass-media și platforme de tehnologie socială, în special în SUA, reprezintă o problemă mai largă. Tehnologia poate eticheta un videoclip ca fiind manipulat, dar dacă oamenii nu cred în corectitudinea demersului tehnologiei de a elimina un videoclip manipulat sau cred în mod eronat că tehnologia a fost utilizată pentru a ajuta la promovarea cauzei, să spunem, a unui partid politic concurent, atunci aceasta este o problemă mult mai mare la nivel de societate.

Cine ar trebui să fie responsabil atunci când AI greșește?

S.K.: În prezentarea mea din cadrul Digital DNA Summit, voi propune trei legi pentru AI etic, similar cu cele trei legi ale roboticii ale lui Asimov. Una dintre aceste legi spune că o mașină inteligentă este în cele din urmă responsabilitatea operatorilor umani care o proiectează și o implementează. 

Pentru mine, oamenii sunt responsabili atunci când o mașină inteligentă dăunează unui individ sau unui grup. 

Cei care au proiectat sistemul sau implementează sistemul ar trebui să fie trași la răspundere. Ar trebui să lucrăm pentru a crea o lege asemănătoare GDPR în jurul mașinilor inteligente, iar organizațiile ar trebui să fie penalizate atunci când aceste mașini dăunează persoanelor sau comunităților.

CITEȘTE ȘI: 70 de ani după: «Legile» lui Asimov, inclusiv în dezbaterile de la UNESCO

Se apropie momentul în care AI va putea lua decizii cu privire la viață și la moarte – ar putea fi vorba de mașinile inteligente, într-o fracțiune de secundă înainte de un accident, sau de mașini militare cu autonomie. Ce crezi despre asta?

S.K.: Sunt foarte conștient de implicațiile etice ale mașinilor inteligente. Cred că trebuie să ne străduim mai mult sa definim elementele fundamentale ale dezvoltării etice a machine intelligence, precum și modul în care etica din MI este supravegheată și cine ajunge să definească aceste principii etice. Acesta este unul dintre elementele cheie pe care le voi prezenta la Digital DNA Summit. 

Realitatea este că mașinile pot lua decizii mai bune decât oamenii în multe situații care ne pot schimba viața. Nu ar trebui să avem prejudecata că e o problemă dacă o mașină ia decizii pentru noi atunci când vine vorba de viața noastră.

Ce e de făcut cu privire la prejudecățile din AI? 

S.K.: Adesea când vine vorba de tehnologie, ne grăbim să o lansăm pe piață fără să mai luăm în considerare implicațiile sale asupra persoanelor sau comunităților. Pentru a ajuta la atenuarea prejudecăților legate de AI, trebuie să avem o mai mare diversitate a celor care construiesc, testează și implementează aceste instrumente de AI. Avem nevoie de seturi de date mai bune, care să fie mai echitabile. Avem nevoie de cadre de testare mai bune. Avem nevoie de mai multă responsabilitate și trebuie să le permitem celor care vor fi afectați de AI să își exprime îngrijorările cu privire la tehnologie.

Dar ce spui despre îmbunătățirea tehnologică adusă corpului uman? Vor exista cyborgs?

S.K.: Depinde ce vrei să spui prin cyborg. Un lucru de care suntem foarte conștienți la Future Point of View este ceea ce numim „centaur digital”. Sunt oameni care au fost „îmbunătățiți” cu ajutorul tehnologiei. Acest lucru se va întâmpla cu siguranță și, în anumite sensuri, există deja. De la obiecte portabile la obiecte implantabile, oamenii vor folosi tehnologia pentru a-și spori abilitățile. Îmbunătățirea poate fi fizică sau mentală. 

Cei care nu pot sau nu doresc să se îmbunătățească cu ajutorul tehnologiei vor fi depășiți de cei care o fac.

În ceea ce privește mașinile „cyborgs”, cred că vor apărea. Ganditi-va la roboții creați de Boston Dynamics. Cu siguranță va veni un moment în care un robot ca cel produs de Boston Dynamics va fi îmbinat cu inteligența sintetică. E doar o chestiune de timp. Cred eu că asta înseamnă că ne îndreptăm către o lume în care cyborgs vor distruge omenirea? Nu. Deși există implicații în domenii precum războiul cu care va trebui, ca specie, să ne confruntăm.

Urmărești filme distopice? Sau crezi că viitorul va fi mai luminos? 

S.K.: Mă uit la filme distopice. Se fac filme grozave. Cu toate acestea, cred că tehnologia va fi în cele din urmă un beneficiu pentru omenire. De fapt, cred într-atât de mult în acest lucru, încât găzduiesc un podcast numit Optimistul Digital (Digital Optimist). Îl poți asculta aici: klososky.com Cred cu adevărat că tehnologia ne va face să fim mai productivi, să ne simțim mai confortabil și mai mulțumiți. Cred fundamental că viitorul umanității este unul luminos, iar instrumentele digitale ne vor ajuta să intrăm într-o eră incredibilă a speciei noastre.



Interviu de

Mihai Ghiduc

Redactor-șef. A oscilat între print (Opinia studențească, Men's Health, Maxim, Marie Claire) și online (Vice, Glamour, Slow Forward) până l-a prins din urmă revoluția tehnologică.

TEHNOLOGIE|Q&A

Alexandra Ștefănescu, Code for Romania: „Cea mai mare parte a infrastructurii din spatele internetului pe care-l folosim azi este software open source”

De
Alexandra Ștefănescu, Chief technology Officer Code for Romania, vorbește despre importanța factorului uman într-o lume digitală, nevoia de a crea sisteme de operare cu sursele deschise și voluntariatul în perioade de criză. 
TEHNOLOGIE|OVERVIEW

Cum afli și ce faci dacă ți-au fost scurse datele pe net

De
Un efort mic pentru a te proteja de hackeri, un pas mare pentru securizarea datelor
TEHNOLOGIE|OVERVIEW

Povestea omului care a vândut un JPEG cu 69,3 milioane de dolari

De
De șase luni piața artei e dată peste cap: o memă s-a vândut cu jumătate de milion de dolari, un clip cu LeBron James a strâns 200 de mii de dolari, iar colajul unui artist obscur a închis licitația la 69,3 milioane. Ce au în comun? Toate sunt NFT-uri.
TEHNOLOGIE|PORTRET

Recuperatorii. Patru frați din București salvează fișiere de pe hard disk-uri stricate

De
Dacă îți crapă hard disk-ul, nu-l desface. Și, mai ales, nu veni la service cu platanele în pungă.