Foto: zf L / Getty Images

Slow Forward: De ce se cere oprirea cercetării AI?21 min read

De Mihai Ghiduc 12.04.2023, ultima actualizare: 07.07.2023

De la moratoriu la oprirea definitivă, trecând prin (auto)reglementare, toată lumea e de acord că „nu mai merge așa” cu inteligența artificială. Mai puțin cei care sunt în fruntea cursei.

Scrisoarea deschisă inițiată de Future of Life, prin care se cere un moratoriu de șase luni în dezvoltarea unui AI mai puternic decât GPT-4 a ajuns la peste 10.000 de semnatari și a dat startul unei avalanșe de propuneri (relativ) similare. 

CITEȘTE ȘI: Musk, Wozniak și Harari cer o pauză în dezvoltarea AI-urilor puternice

Cum era de așteptat, nimeni nu s-a grăbit să spună „Da, ne oprim”, în condițiile în care cursa pentru a domina, cel mai probabil, cel puțin un deceniu piața software e deschisă. Nu sunt dispuși să se oprească nici cei aflați în pole position, adică Open AI și Microsoft, nici cei care vin din spate, Anthropic sau Google. Faptul că pe lista semnatarilor figurau la loc de frunte unii care au ratat cursa (Apple) sau care au renunțat la ea înainte să aibă succes (Musk) nu ajută. 

Fără moratoriu pe cercetarea AI, dar cu reglementare?

Bill Gates a declarat pentru Reuters„Bill Gates says calls to pause AI won’t ‘solve challenges’”, reuters.com că un moratoriu de șase luni „nu va rezolva problemele”. Anthropic a publicat o postare lungă„Core Views on AI Safety: When, Why, What, and How”, anthropic.com în care susțin că sunt conștienți de riscuri și că sunt deciși să lanseze un AI etic. Sudai Pichar, de la Google, a spus„Google CEO won’t commit to pausing A.I. development after experts warn about ‘profound risks to society’”, fortune.com că nici nu-i trece prin cap să oprească cercetările. OpenAI s-au făcut că plouă.

În umbră, rămân îngrijorările că de un moratoriu ar putea profita China, care fie are deja un avantaj – cum crede The Harvard Gazette„Why China has edge on AI, what ancient emperors tell us about Xi Jinping”, harvard.edu –, fie se chinuie să țină pasul cu Occidentul, cum spune LeMonde.„China struggles to compete with ChatGPT in the AI race”, lemonde.fr  

De fapt, se speculează mult în jurul AI-ului. Unii scriu cu o siguranță de sine uimitoare că GPT-5 va veni până la finalul anului,„GPT-5 arriving by end of 2023 : r/ChatGPT”, reddit.com deși între versiunile 3 și 4 (abia lansat) au trecut trei ani. 

Eliezer Yudkowsky, care teoretizează despre inteligența artificială generală (AGI) încă din 2001, fiind practic fondatorul domeniului, a scris pentru Time„Pausing AI Developments Isn’t Enough. We Need to Shut it All Down”, time.com că orice cercetare ar trebui de fapt oprită, pentru că momentul în care o inteligență artificială generală ar depăși-o pe cea umană ar putea veni foarte repede, poate chiar involuntar. Și, în opinia lui Yudkowsky, apariția unei AGI superinteligente ar însemna, invariabil, sfârșitul speciei umane.

Aș spune că e posibil, având în vedere că modelele generative actuale sunt dezvoltate pe toată informația disponibilă pe Internet, deci sunt „conștiente” de Skynet și restul distopiilor care vorbesc de AI-uri malefice. Pe de altă parte, ChatGPT știe de Jarvis și alte AI-uri benefice, nu? 

Și, oricum, e nevoie de mult mai mult decât generarea unor texte sau imagini coerente pentru a declara AI-ul cu adevărat inteligent. Puterea de abstractizare, de a face conexiuni neașteptate, de a memora lucruri și de a folosi experiențele trecute și prezente pentru a avansa cunoașterea sunt, momentan, atribute umane și, dacă rămân la arhitectura actuală a algoritmilor, e greu de crezut că un AI le poate obține curând. 

Dacă Yudkowsky pare terifiat, filosoful Nick Bostrom, profesor la Oxford, teoretician al AGI și autorul cărții Super Intelligence se teme mai degrabă„‘Pain in the AIs’ by Nick Bostrom”, analyticsindiamag.com de problema alinierii dintre intențiile celor care crează sistemele și cele ale unui eventual AI inteligent. El mai crede că e nevoie unui AI cu „sistem moral”, dar e îngrijorat și de felul în care chiar și AI-urile actuale ar putea fi folosite în scopuri malefice (de exemplu, pentru a crea deep fake-uri).

Din colțul acesta de internet aș crede că, deși îngrijorările despre AGI pot fi legitime, sunt premature și că mai e mult până acolo, nu se va întâmpla la GPT-5 sau anul acesta. Îngrijorările mai mari ar trebui să fie legate de felul în care actuala formă de AI, utilizată în aplicații practice, va influența lumea, de joburile afectate (ilustratorii au deja o problemă majoră), de cum va rezista structura socială schimbărilor introduse de AI. Și, oricum, mai degrabă decât să-mi fie frică de o ipotetică inteligență artificială generală superinteligentă, m-aș teme mai mult de una la fel de inteligentă ca un om, dar care a fost „traumatizată” de creatorii săi.

O viziune mai realistă decât „opriți tot” sau „faceți pauză șase luni” o au cei de la Wired,„AI Desperately Needs Global Oversight”, wired.com care spun că, pur și simplu, e nevoie de o supraveghere independentă a felului în care e dezvotat AI-ului. Ce-i drept, ei dau ca exemplu și Oversight Board-ul celor de la Facebook, ignorând faptul că acesta a analizat doar câteva zeci de cazuri de la înființare până acum și e, mai degrabă, un proiect de „ethics washing” decât ceva serios.

CITEȘTE ȘI: Ethics washing în IA: riscul existențial pentru etică 

Pe de altă parte, Wired propune și o organizație independentă, de genul celei pentru energia atomică, în care statele și companiile să coopereze. Până acolo însă, aș spune că AI-ul are nevoie de reglementare la nivel politic. Doar că lucrurile se mișcă greu în politică, aleșii încă încearcă să facă ordine în probleme care vin din trecut (social media, de exemplu)„​​More social media regulation is coming in 2023, members of Congress say”, cnbc.com sau să reglementeze unele care păreau viitorul acum un an, ca Metaversul,„The Year Ahead in Digital Policy: Regulating the Metaverse”, gsma.com decât să se ocupe de aceasta, mult mai presantă.

Doar Uniunea Europeană pare să fie cât de cât alertă, dar asta doar pentru că propusese deja în 2021 o formă de reglementare a AI-ului, pe care este acum forțată să o adapteze noii paradigme.„ChatGPT broke the EU plan to regulate AI”, politico.eu Ar mai fi și Italia, care a interzis ChatGPT, dar a făcut-o pe motive de privacy,„ChatGPT banned in Italy over privacy concerns”, bbc.com nu a arhitecturii din spate. 

CITEȘTE ȘI: AI Act: Uniunea Europeană se ia la harță cu inteligențele artificiale 

Problema evidentă aici e că AI-urile cele mai avansate (de care știm) sunt dezvoltate în SUA. Casa Albă a anunțat anul trecut un plan pentru o Declarație a Drepturilor AI,„Blueprint for an AI Bill of Rights”, whitehouse.gov, iar Departamentul Comerțului ia în calcul o eventuală reglementare,„Biden administration considers rules for AI systems like ChatGPT”, washingtonpost.com dar asta înseamnă că AI-ul ar putea deveni parte a războiul cultural de acolo. 

În condițiile în care ChatGPT a fost deja acuzat că e „woke”,Is ChatGPT ‘woke’? AI chatbot accused of anti-conservative bias and a grudge against Trump”, phys.org rezultatul ar putea fi, mai degrabă, dezlănțuirea în lume a unui AI fără limitări morale – așa, în sensul limitat (și poate greșit) al felului în care înțeleg dezvoltatorii actuali lumea. Și asta chiar că ar fi o problemă.

4 știri pe scurt

MindcraftStories_1 Twitter nu mai există

Nu s-a închis site-ul, în ciuda eforturilor lui Elon Musk*, ci a dispărut Twitter Inc., care a fost absorbit de nou formata firmă X Corp,„Twitter Becomes X Corp as Musk Advances ‘Everything App’ Hopes”, bloomberg.com un nou pas al miliardarului spre o mult dorită „aplicație pentru orice”.

* Doar în ultimele săptămâni, Musk a schimbat logo-ul Twitter cu imaginea unui câine,„Why Has Elon Musk Changed the Twitter Bird Logo to a Dog?”, esquire.com a șters „w” din logo, pe sediul din San Francisco, ca să facă o glumă îndoielnică,„Elon Musk changes Twitter headquarters sign to ‘Titter’”, ktvu.com  i-a lăsat pe cei de la The New York Times fără bifă de verificat fiindcă n-au vrut să-i plătească taxă„Twitter’s blue ticks disappear as Musk attacks NY Times”, bbc.com a blocat link-urile către Substack, pe motiv că l-ar putea concura,„Elon Musk Throttles Substack, Clashing With Twitter Files’ Matt Taibbi”, reason.com și a pus în dreptul NPR, postul public de radio american, informația „media afiliată statului”, pe care a schimbat-o ulterior„Amid backlash, Twitter changes NPR’s account to ‘government funded media’”, washingtonpost.com în „media finanțată de guvern”. 

Foto: Sony

Cifre Articol MindcraftStories_2 Primul full frame Sony pentru vlogging

Sony a anunțat ZV-E1,„Cameră pentru vlogging full frame ZV-E1”, sony.ro prima cameră pentru vlogging cu senzor full frame (de 12 MP) și obiective interschimbabile. Aceasta permite înregistrare video 4K la 60p, setări de filmare vlog cinematice, inclusiv S-Cinetone, conectivitate ușoară cu telefonul mobil și folosește inteligența artificială pentru autofocus, încadrare și stabilizare a imaginii. 

Cifre Articol MindcraftStories_3 Samsung și-a îmbunătățit midrange-urile

La finalul lui martie, au fost lansate în România noile telefoane Samsung Galaxy A54 5GDetalii pe samsung.com și Galaxy A34 5G.Detalii pe samsung.com Aliniate la nivel cu flagshipurile S23, printr-un sistem de camere cu aspect similar (dar cu aproape inutila cameră macro în locul unui zoom), telefoanele aduc câteva îmbunătățiri față de modelele de anul trecut, în special la nivel de hardware (procesoare mai bune) și de rată de refresh a ecranului. De asemnea, ca ofertă specială, până pe 15 aprilie,Pe Samsung.com/ro noile telefoane sunt disponibile în rate și vin cu Puncte Rewards bonus de până la 200 lei.

Cifre Articol MindcraftStories_4 Generare AI pentru conținut comercial

Dacă inteligența artificială face deja ravagii printre ilustratori, acum ea ar putea afecta și fotografii de produs. Flair.aiDisponibil pe flair.ai își propune să revoluționeze acest domeniu, cu „propsuri” virtuale, care o să genereze imagini de Instagram în câteva secunde, cel puțin dacă ar fi să mă iau după o demostrație apărută pe Twitter. 

Recomandările Mindcraft Stories

  1. The New York Times Magazine spune povestea lui Thomas Midgley Jr.,„​​The Brilliant Inventor Who Made Two of History’s Biggest Mistakes”, nytimes.com savantul care, în doar șase ani din deceniul al doilea al secolului trecut, a reușit să creeze două probleme imense pentru mediu, anunțate atunci ca invenții geniale: a inventat benzina cu plumb (amplificând poluarea) și a fost primul care a folosit clorofluorocarburile pentru refrigerare (ceea ce a dus la o gaură în stratul de ozon). Să mai spun și că Midgley Jr. a creat dispozitivul care, într-un final, a dus la propria moarte? 
  2. Dacă te întrebai care sunt planurile de viitor ale Apple, acum, că nu mai e cea mai hot firmă din Big Tech, GQ a stat de vorbă„Tim Cook on Shaping the Future of Apple”, gq.com cu CEO-ul Tim Cooke. Textul conține zero referințe la inteligența artificială.
  3. În timp ce lumea se îngrijorează că ar putea începe un conflict între China și lumea occidentală pentru Taiwan, TechAltar spune, în cel de-al 96-lea episod al serialului YouTube The Story Behind, că țara asiatică își pierde avantajul tehnologic: producția părăsește țara, importurile de tehnologie înaltă sunt tot mai limitate, își pierde piețele de export, iar haosul intern e în creștere.


Text de

Mihai Ghiduc

Redactor-șef. A oscilat între print (Opinia studențească, Men's Health, Maxim, Marie Claire) și online (Vice, Glamour, Slow Forward) până l-a prins din urmă revoluția tehnologică.

SPAȚIU|FYI

Un vehicul SpaceX va retrage Stația Spațială Internațională de pe orbită în 2030

De
Agenția spațială americană a anunțat mai multe detalii despre planul său de a retrage în mod sigur Stația Spațială Internațională de pe orbită.
TEHNOLOGIE|FYI

Haos în cloud. Un update de securitate a blocat serviciile aeriene în întreaga lume. CrowdStrike are un centru de inovare în România

De
Serverele Microsoft au afișat ecranul albastru al morții și servicii globale au picat pentru câteva ore din cauza unui update eronat făcut de compania de securitate americană Crowdstrike.
ȘTIINȚĂ|FYI

Unii fizicieni susțin că, de fapt, timpul nu există

De
O ipoteză nouă spune că timpul nu există, nu a existat şi nu va exista niciodată.
AI&ROBOȚI|SLOW FORWARD

AI vs Copyright. Fac față legile actuale AI-ului generativ?

De
Cât de adaptate sunt actualele legi ale dreptului de autor apariției AI-ului care generează texte și imagini?