„ADN-ul uman este în ADN-ul sistemelor noastre de inteligență artificială” – Amy Webb, Future Today Institute22 min read

Mindcraft Stories | 03.06.2019

Inteligența artificială (AI) își găsește tot mai frecvent locul în diferite medii de lucru și viață. Global Editors Network, organizația care organizează an de an GEN Summit, un eveniment destinat publisher-ilor și jurnaliștilor interesați de viitorul mass media, și Data Journalism Awards – „Oscarurile” din domeniul data journalism-ului, a vorbit despre acest subiect cu Amy Webb, fondatoarea institutului Future Today și autoarea noii cărții The Big Nine — How the Tech Titans and Their Thinking Machines Could Warp Humanity (Cei Nouă Giganți – Cum titanii tehnologiei și mașinile lor inteligente ar putea perverti umanitatea). Amy vorbește despre viitorul cercetării și dezvoltării în domeniul inteligenței artificiale (AI), despre principalii jucători de pe piață și despre concepțiile eronate legate de această industrie.

„Suntem prinși laolaltă în asta, pentru că datele noastre sunt cele folosite pentru a antrena sistemele AI, pentru a dezvolta noi aplicații și pentru a lua milioane de decizii în locul nostru – decizii mici, dar și semnificative”. Acestea fiind spuse, nu ar trebui să ne fie teamă de roboți, ci să fim precauți cu oamenii care se ocupă de ei.

Amy Webb, fondatoarea institutului Future Today © Amy Webb

Ai lansat recent o nouă carte, The Big Nine , în care afirmi că „cei nouă giganți nu sunt personajele negative în această poveste, ci sunt speranța noastră pentru viitor”. Poți să ne explici ce ai vrut să spui?

În mod fundamental, cred că inteligența artificială (AI) este o forță pozitivă, care va eleva umanitatea și generațiile viitoare și care ne va ajuta să ne îndeplinim cele mai idealiste viziuni despre viitor. Dar sunt pragmatică. Cu toții știm că și cele mai bine intenționate persoane pot, neintenționat, să facă mult rău. În tehnologie – și cu precădere atunci când vine vorba despre AI – trebuie să nu uităm să luăm în calcul atât utilizarea intenționată, cât și abuzul neintenționat.

Iar în acest moment, marile companii de tech – nu guvernele – sunt cele care fac cercetare în acest domeniu și ne construiesc viitorul. Noi toți ne bazăm pe aplicațiile lor pentru inteligență artificială, pe serviciile lor de stocare în cloud, pe dispozitivele, serviciile și produsele lor. Nu cred că „cei nouă giganți” sunt în mod necesar personajele negative. Cred că ei sunt speranța noastră pentru viitor.

Dacă „cei nouă giganți” – deci un grup restrâns de companii – controlează viitorul AI, care sunt potențialele scenarii negative? De-a lungul istoriei, ai mai văzut o asemenea concentrare a puterii care să controleze viitorul societăților noastre?

Viitorul real al AI este greu de prevăzut fără să dedici timp și efort încercării de a învăța ce este, ce nu este și cum anume se leagă AI-ul de viața oamenilor. Este periculos să pre-atribui narațiuni utopice sau apocaliptice despre viitorul AI – ar însemna să presupui că noi nu avem o influență sau ceva de spus în viitorul nostru.

Omenirea se află în pragul unei crize existențiale în sensul cel mai literal pentru că nimeni nu rostește acea întrebare care a stat la baza AI încă de la începuturile sale: Ce se întâmplă cu societatea atunci când transferăm puterea unui sistem construit de un grup restrâns de oameni care trebuie să ia decizii pentru toată lumea? Ce se întâmplă când acele decizii sunt părtinitoare către interese comerciale sau ambițiile unui partid politic?

Răspunsul se reflectă în oportunitățile viitoare pe care le vom avea, în modurile în care ni se va îngrădi accesul, în convențiile sociale din interiorul societăților noastre, în regulile după care operează economiile și chiar în felul în care interacționăm cu alți oameni.

Crezi că o așa-numită democratizare a AI este necesară? În ce măsură ar fi aceasta posibilă ținând cont de tendințele spre monopol și de natura inerent competitivă a pieței de tech, care este responsabilă de mare parte din procesul de dezvoltare?

Da, cred. Această democratizare este posibilă dacă decidem toți să urmărim o altă strategie de dezvoltare, una care să implice acceptarea unor sacrificii pe termen scurt în favoarea unor câștiguri pe termen lung.

În cartea ta, vorbești despre SUA și China, care merg pe direcții diferite în ceea ce privește dezvoltarea AI. Care sunt diferențele și care sunt câteva din potențialele implicații ale acestei disparități pentru viitorul industriei?

În China, dezvoltarea AI este legată și limitată de ambițiile guvernului. Baidu, Tencent și Alibaba sunt companii-gigant tranzacționate public – dar, caracteristic marilor companii chineze, ele se pliază voinței Beijing-ului.

Trebuie să analizăm planul de dezvoltare al AI în contextul mai larg al planurilor mărețe pentru viitor ale Chinei. AI este inclusă într-o serie de edicte naționale și legi care au ca obiectiv final controlul tuturor informațiilor generate în China și monitorizarea datelor rezidenților și a cetățenilor unor țări care sunt parteneri strategici ai Chinei. Aceste politici si inițiative sunt invenția unui grup de persoane din cercul interior al președintelui Xi Jinping. În ultimul deceniu, el și-a concentrat toată atenția asupra procesului de reconstrucție și redefinire a Chinei într-o superputere globală. China se află în prezent sub o guvernare autoritară comparabilă poate doar cu cea a lui Mao Zedong, iar dezvoltarea și folosirea AI pentru a obține un avantaj competitiv sunt indispensabile acestei cauze.

Obiectivul final al președintelui Xi este foarte clar: crearea unei noi ordini globale în care China este liderul de facto. În această perioadă de expansiune diplomatică a Chinei, actualul președinte al Statelor Unite, Donald Trump, a decis să întoarcă spatele unor înțelegeri și alianțe globale și să ridice o „perdea de bambus”. (And yet, during this time of Chinese diplomatic expansion, the United States turned its back on longstanding global alliances and agreements as President Trump erected a new bamboo curtain.)

AI nu este doar o tehnologie la modă. În acest moment, suntem toți prinși în asta, pentru că datele noastre sunt folosite pentru a antrena sistemele de AI, pentru a dezvolta noi aplicații și pentru a lua milioane de decizii în locul nostru – decizii mici, dar și semnificative. Prin urmare, nu putem trata AI-ul ca pe orice altă tehnologie. Cerem unor mașini să facă alegeri și să ia decizii pentru noi și ne așteptăm să acceptăm rezultatul acestor alegeri și decizii din diferite domenii: bancar, medical, transporturi sau din domeniul apărării… și lista poate continua. Aceasta listă include și presa. Mă tem că liderii organizațiilor media nu sunt pregătiți pentru ceea ce va urma.

Care sunt tendințele care te îngrijorează în reglementarea și dezvoltarea AI, atât în ceea ce privește giganții industriei tech, cât și la nivel de guverne? 

În acest moment, teama mea cea mai mare este o „balcanizare” a AI. Mă îngrijorează perspectiva ca diferite țări sau chiar orașe să implementeze legislații proprii care să guverneze AI. Asta ar crea nenumărate alte probleme fără a rezolva principalele îngrijorări ce țin de confidențialitate, transparență și forță de muncă.

La conferința World Economic Forum de anul acesta de la Davos, ai argumentat că atât temerile, cât si optimismul exagerat în legătură cu tehnologiile derivă din ignorarea faptului ca oamenii sunt cei care se ocupă de dezvoltarea și utilizarea acestora. De ce este important să ne amintim de factorul uman atunci când vine vorba despre AI?

Când vine vorba despre inteligența artificială, avem o mulțime de temeri și optimism nefondat. Acestea sunt rezultatul unor neînțelegeri cauzate de decenii de povești spuse în cărți, filme și la televizor – precum Skynet în filmul „Terminator”. Este important să ne amintim că avem cu toți biasuri cognitive. Trăim cu ideea de inteligență artificială de atâta timp, încât pierdem mult din procesul de dezvoltare al acestei tehnologii, care se întâmplă acum, în prezent. ADN-ul uman este în ADN-ul sistemelor noastre de inteligență artificială.

Diferite țări și regiuni aleg abordări diferite ce țin de implementarea noilor tehnologii, precum AI, în viața de zi cu zi a societății. Cât de important este să ne putem de acord în legătură cu cele mai bune practici și reglementări, ca o comunitate globală?

În carte, eu propun o Alianță Globală în Augmentarea Inteligenței (GAIA). Acest corp internațional ar include cercetători în domeniul AI, sociologi, economiști, teoreticieni ai jocurilor, futuriști și cercetători în științele politice din toate statele membre ale alianței. Membri alianței ar trebui să reflecte diversitatea socioeconomică, de gen, de rasă, religioasă, politică și sexuală. Acest grup ar trebui să coopereze și să faciliteze inițiativele comune ce țin de politici și de AI și, în timp, să exercite o influență și un control suficient pentru a preveni o apocalipsă.

Ar putea părea imposibil să unim guvernele lumii în jurul unei cauze comune în contextul ranchiunii și agitației geopolitice din ultimii ani. Dar există un precedent. După al Doilea Război Mondial, când tensiunile erau încă la cote înalte, sute de reprezentanți ai națiunilor Aliate s-au reunit la Bretton Woods, în New Hampshire, pentru a pune bazele structurilor financiare care au permis economiei globale să evolueze. Acea colaborare care a fost centrată pe oameni  – a dus la un viitor în care națiuni au putut fi reconstruite și au descoperit prosperitatea.

Națiunile membre ale GAIA ar trebui să colaboreze pentru a pune la punct cadre (frameworks), standarde și bune practici pentru AI. Deși este puțin probabil ca Alianța să includă China, o invitație ar trebui să fie extinsă liderilor Partidului Comunist Chinez și celor trei giganți tech chinezi – Baidu, Alibaba și Tencent. Dar îmi dau seama că cer cam mult.

Pe măsură ce AI devine tot mai prevalentă în toate industriile, cum ar putea redacțiile și editurile să integreze inteligența artificială într-un mod sustenabil? Sunt ele condamnate să fie dependente de „cei nouă giganți”?

Ei bine, redacțiile sunt deja total dependente de G-MAFIA (n.r. termenul este folosit de Amy Webb pentru cei șase giganți tech americani – companiile Google, Amazon, IBM, Facebook, Apple și Microsoft). Liderii acestei industrii ar trebui să-și redefinească descrierea valorii lor valoare, ceea ce-i diferențiază de competiție, în epoca AI. De exemplu, atunci când oamenii încep să vorbească cu mașinile, să le întrebe diferite lucruri în loc să scrie ce vor să găsească, cum influențează acest lucru funcția de căutare? Cum afectează asta modelul de afaceri preexistent? Liderii trebuie să se obișnuiască cu incertitudinile, cu schimbarea și să-și găsească mereu drumul.

Având în vedere formația ta ca jurnalist, care sunt, în opinia ta, aptitudinile tehnice esențiale pe care cei care vor să se familiarizeze cu tehnicile de jurnalism computațional ar trebui să le cultive?

Mi s-a pus această întrebare foarte des în ultimii 15 ani. La început era în legătură cu internetul, apoi cu dispozitivele mobile, apoi cu big data. Acum este în legătură cu AI. Aptitudinile-cheie ar trebui să includă ceva cunoștințe ce țin ce știința datelor, înțelegerea principiilor de bază și, cel mai important, flexibilitate și agilitate.

Dincolo de micșorarea continuă a intervalului de atenție, în cercetările tale ai observat și alte modificări importante ce țin de comportamentul consumatorilor de media? Este vreo modificare de care redacțiile ar trebui să fie mai atente?

Organizațiile mass-media nu controlează distribuția, ceea ce înseamnă că intră în competiție pentru atenția consumatorului cu toate tipurile de conținut și de divertisment. Organizațiile mass-media intră în competiție cu sportul, canalele de YouTube și cu cele mai noi jocuri pentru dispozitivele mobile. Liderii industriei trebuie să definească „media” într-un sens mult mai larg și să se gândească intens la viitorul atenției publice.

Pornind de la ediția din acest an a raportului privind tendințele în tehnologie (Tech Trends Report), care crezi că sunt tendințele cheie de urmărit din perspectiva unei redacții? 

Sunt mai multe: distribuția automată, conținutul generativ, automatizarea caselor, confidențialitatea și transparența și chiar și subiectele adiacente precum transporturile și genomica.

Amy Webb este profesor de viziune strategică la Universitatea din New York și fondatoarea Future Today Institute, o firmă specializată pe strategie și viziune, aflată în al doilea deceniu de existență. Institutul ajută liderii lumii și organizațiile din care fac parte să se pregătească pentru incertitudini și diferite scenarii complexe ale viitorului.