Slow Forward: Nou avertisment despre pericolele AI-lui

De Mihai Ghiduc 13.06.2023, ultima actualizare: 07.07.2023

Plus: Apple ia în serios lumea gamingului, TikTok își mută serverele în Europa, Photoshop te lasă să generezi imagini de la zero. 

O nouă scrisoare despre riscurile create de inteligența artificială a fost semnată de sute de specialiști în domeniu. Scrisoare e mult spus, pentru că Centrul pentru Securitatea AI (CAIS) a publicat o singură propoziție:„Statement on AI Risk | CAIS”, safe.ai

„Mitigarea riscului de dispariție din cauza AI ar trebui să fie o prioritate globală, alături de alte riscuri la scara întregii societăți, cum ar fi pandemiile și războiul nuclear.”

Pe lista semnatarilor apar persoane care lucrează la inteligențe artificiale, ca Sam Altman (CEO OpenAI), Demis Hassabis (CEO Google DeepMind) sau Dario Amodei (CEO Anthropic), fondatori Big Tech, ca Bill Gates, și profesori la universități de top și specialiști în AI, inclusiv Anca Drăgan, de la Universitatea Berkley.

CITEȘTE ȘI: Musk, Wozniak și Harari cer o pauză în dezvoltarea AI-urilor puternice 

Însă cel mai important semnatar este Geoffrey Hinton, de la Universitatea Toronto, considerat de mulți „părintele AI”,„A New Way for Machines to See, Taking Shape in Toronto”, nytimes.com pentru că a lucrat la rețele neurale toată viața sa și, în 2012, a fost primul care le-a folosit pentru a ajuta computerele să identifice conținutul unei fotografii. Ceea ce este acum Google Photos capabil să facă, adică să-ți livreze toate fotografiile cu pisici, mașini roșii sau biciclete din telefonul tău, i se datorează lui Hinton. La propriu, pentru că, până luna trecută, el a lucrat la Google pe diferite proiecte AI.

Hinton a demisionat la începutul lunii mai, pentru a vorbi liber despre pericolele dezvoltării unor inteligențe artificiale mult prea puternice,„‘The Godfather of AI’ Quits Google and Warns of Danger Ahead”, nytimes.com în special dacă se va ajunge la inteligență artificială generală (AGI), adică un AI care poate să învețe mai eficient și să rezolve orice fel de probleme, nu doar pe cele pentru care a fost antrenat. Ca un om, dar mult mai repede și mai precis, cu acces instantaneu la toate cunoștințele existente – ceea ce, cred Hinton și alții, ar face-o cea mai inteligentă entitate de pe Pământ.

CITEȘTE ȘI: De ce se cere oprirea cercetării AI?

Riscurile sunt actuale, chiar și dacă inteligența artificială generală e departe

Hinton nu crede că AGI e iminent, deși și-a redus estimările apariției acesteia de la 30-50 de ani, la următorii cel mult 20 de ani.„”Godfather of artificial intelligence” talks impact and potential of new AI”, cbsnews.com Însă nu trebuie să se ajungă la AGI pentru ca inteligența artificială să creeze probleme. 

Nu oricine folosește un AI cu cele mai bune intenții

Posibilitatea ca inteligența artificială să fie exploatată în scopuri malefice a fost ridicată de multă lume. Nu oricine lucrează la un AI are cele mai bune intenții. În timp ce se discuta de AI etic, iar OpenAI și Google încercau să pună limite în ChatGPT și Bard, existau deja voci care acuzau că boții respectivi sunt prea „woke”.„Is ChatGPT ‘woke’? AI chatbot accused of anti-conservative bias and a grudge against Trump”, phys.org 

Hinton crede că, ajuns pe mâini greșite – actori individuali sau state ca Rusia, Iran sau China –, AI-ul poate fi folosit la manipulare, în special în context electoral. Un spam și un phishing mai eficient e de asemenea posibil cu ajutorul AI.

AI-urile ar putea avea scopuri „personale”

E plin netul de exemple de AI-uri antrenate pentru un lucru, care decid să facă altceva. Desigur, majoritatea sunt probleme de design și date inițiale folosite – precum un AI care rezolvă problema celor două tramvaie salvând mereu pisicile.Într-un experiment creat pentru ​​ youtube.com Însă un AI poate decide că, pentru a-și îndeplini mai bine sarcinile, trebuie să facă mai întâi altceva, de exemplu să redirecționeze electricitate către serverele sale sau să se multiplice, pentru a nu risca să fie închis.

Este un scenariu care a panicat lumea recent, al dronei militare americane conduse de AI care se întoarce împotriva propriului operator fiindcă nu e lăsată să-și ducă misiunea de a ucide până la capăt. Și, chiar și când acest lucru e prevenit, ea distruge releul, pentru a sista comunicațiile. S-a dovedit că era vorba doar de un „experiment mental”,„US colonel retracts comments on simulated drone attack ‘thought experiment’”, theguardian.com dar cazul evidențiază o altă problemă.

„Dacă n-o fac eu, o vor face alții”

Este paradoxul care i-a motivat pe fizicienii care au creat bomba atomică să meargă mai departe, și care alimentează și cercetările AI. Și nu e vorba doar de cele comerciale, ci mai ales de cele militare. Din nou, aici riscurile nu vin de la un AGI care e încă departe, ci de la AI-urile care ar putea fi folosite în curând în bătălie.

Cercetătorul Toby Walsh„The Problem with Artificial (General) Intelligence in Warfare – Centre for International Governance Innovation”, cigionline.org identifică o serie de probleme ale folosirii AI-ului pe câmpul de luptă. De exemplu, AI-ul ar putea fi incompetent, ceea ce ar duce la victime colaterale. Sau poate că ar fi folosit de teroriști, cărora nu le pasă de acuratețea unei arme.

Walsh mai spune că AI-ul ar putea crește viteza, mărimea și caracteristicile războiului. Riscul de conflicte nedorite crește, dacă se întâlnesc două AI-uri inamice autonome. De asemenea, ar putea fi mai greu să se afle cine e vinovat de un atac, dacă se folosește inteligența artificială.

Pierderea joburilor e iminentă

Aici nu e nevoie de Hinton, toată lumea s-a gândit la cum îi va fi afectat jobul de apariția AI-ului, mai ales după apariția generatoarelor de imagini precum Midjourney și DALL-E. Deja în mai 2023 se estimeazăConform unei analize Challenger, Gray and Christmas: wpenginepowered.com (PDF) că, în SUA, s-au pierdut aproape 4.000 de locuri de muncă din cauza AI Goldman Sachs estimează„ChatGPT and AI automation: 300 million jobs could be affected globally, says Goldman Sachs”, cnn.com și că cel puțin 300 de milioane de joburi vor fi afectate în curând de revoluția AI. Asta înseamnă aproape 10% din totalul joburilor existente în prezent pe piață.

Într-un episod al podcastului lui Peter Kafka, Recode Media,„AI is the future, AI is a fraud! Let’s debate”, spotify.com Gary Marcus spune că o amenințare actuală la adresa jobului tău ar putea fi angajatul care folosește AI-ul pentru a fi mai eficient decât tine, iar ăsta chiar e un lucru la care merită să te gândești.

AGI ar putea să ignore omenirea

La fel ca Hinton, Marcus vorbește de riscurile AGI ca de unele îndepărtate. El crede însă că scenariile de tip Skynet sunt exagerate și că e puțin probabil să se ajungă într-o situație în care AGI-ul să ducă la dispariția speciei umane prin acțiunile sale.

Marcus definește totuși două astfel de situații ipotetice:

  1. Controlul dăunătorilor. Un AGI ar putea decide că oamenii sunt periculoși, fie pentru supraviețuirea sa, fie pentru a planetei, și să acționeze în consecință, cam la fel cum acționăm noi când ne este invadată locuința de gândaci.
  2. Victime colaterale. AGI-ul ar putea considera că o atmosferă încărcată de oxigen e periculoasă pentru circuitele sale, datorită riscului de rugină, așa că s-ar apuca de o teraformare căreia i-ar cădea victime flora și fauna planetei.

Însă poate cea mai interesantă teorie legată de un potențial AGI este că acesta ar putea să treacă în viteză pe lângă noi, ignorându-ne total. Inteligența artificială generală ar putea deveni atât de deșteaptă, atât de repede, încât și-ar vedea de călătoriile interplanetare și răspândirea în univers, trecându-și cu vederea creatorii. 

Dincolo însă de aceste discuții ipotetice, bune de un podcast, dar mai puțin realiste, Marcus vine cu o serie de propuneri concrete, dintre care cea mai importantă e legată de taxarea AI-ului.

Va accelera AI-ul adoptarea venitului universal garantat?

Marcus îl susține pe Sam Altman de la OpenAI în cererea pentru reglementarea AI-ului, spre disperarea altor actori din domeniu,„An unlikely alliance: AI critic Marcus and OpenAI’s Altman push for regulation”, the-decoder.com însă în podcastul lui Kafka face o recomandare și mai radicală: AI-ul ar trebui taxat, iar impozitele ar trebui să fie foarte mari. Scopul ar fi atât de a încetini dezvoltarea sa, cât și de a mitiga efectele negative în ceea privește joburile.

Propunerea unor forme de compensare„Before AI Takes Over, Make Plans to Give Everyone Money”, theatlantic.com a fost făcută și de alții, inclusiv de politicieni.„Radical Proposal: Universal Basic Income to Offset Job Losses Due to Automation”, hai.stanford.edu Inițiative pentru introducerea unui venit universal, adică o sumă de bani primită lunar de oricine, fără precondiții, existau deja de mult,Unconditional Basic Income Europe e un exemplu, ubie.org dar acum ele ar putea primi sprijinul unui grup de persoane care nu-și vedeau joburile puse în pericol, cei care-și folosesc intelectul – un grup electoral care încă are putere. 

Este acesta un prim pas spre un viitor în care mașinile lucrează și oamenii se distrează? Ei bine, problema e că dacă o țară sau un grup de țări decide să taxeze AI-ul, altele ar putea să n-o facă, iar asta va duce fie la o migrare a cercetătorilor și investitorilor în acea zonă, fie la un avantaj competitiv pentru țara respectivă. Iar un moratoriu global în această direcție este imposibil în contextul geopolitic actual.

Plus că nu toată lumea crede că AI-ul va afecta locurile de muncă și veniturile, ba că, dimpotrivă, va duce la o creștere economică fără precedent și, în consecință, venituri mai mari pentru toată lumea. Cel puțin așa spune Marc Andreessen, fondatorul Netscape,„Why AI Will Save the World”, a16z.com care adresează și restul problemelor într-un text în care vede AI-ul drept ceva pozitiv. În esență, o viziune de tip „piața va regla totul”.

Și așa revin la cele câteva cuvinte ale scrisorii semnate de specialiștii în AI. Este nevoie ca inteligența artificială să fie tratată ca o amenințare globală, ca armele nucleare și pandemiile, și adresată de toată lumea – nu doar pentru că ne-ar putea distruge într-un viitor ipotetic, ci pentru efectele ei imediate. Înțeleg însă politicienii lumii pericolul și sunt ei dispuși să coopereze într-un moment în care diviziunile sunt mai mari decât oricând? Mă îndoiesc.

Alte știri, pe scurt

Apple și-a lansat casca de realitate virtuală

Lansarea Apple Vision Plus a ținut capul de afiș al știrilor din tehnologie, într-atât că a trecut aproape neobservată „rivala” de la Meta. Da, Zuck a anunțat pe Instagram noul Meta Quest 3Mark Zuckerberg on Instagram: “Introducing Meta Quest 3. The first mainstream headset with high-res color mixed reality. 40% thinner and more comfortable. Better displays…”, instagram.com și foarte puțină lume a fost impresionată. 

Dacă am scris deja despre potențialul impact al lui Apple Vision Pro și ce probleme ar trebui să rezolve, n-am trecut în revistă și restul produselor anunțate.

CITEȘTE ȘI: Revoluția VR se amână. 5 întrebări despre impactul Apple Vision Pro 

Un MacBook Air de 15 inchi,„Apple introduces the 15-inch MacBook Air”, apple.com un prim MacPro cu procesor Apple, noul M2 Ultra,„Apple unveils new Mac Studio and brings Apple silicon to Mac Pro”, apple.com precum și un Mac Studio upgradat sunt cele mai mari noutăți hardware. Practic, în momentul de față, gama computerelor cu procesor Apple e completă.

Restul noutăților sunt la nivel de software.„WWDC23 highlights”, apple.com Ca în fiecare, au fost anunțate noile sisteme de operare pentru computere (macOS Sonoma), telefon (iOS 17), tabletă (iPad Os 17), ceas (watchOS 10), consolă TV (tvOS 17) care vor fi disponibile din toamnă. Pentru că nu sunt suficiente, casca a primit și ea un sistem de operare, visionOS. Până și iPod-urile primesc un update software, dar – ce ușurare – n-a mai aglomerat lista sistemelor de operare.

O veste mult mai bună e lansarea unui pachet pentru dezvoltatori creat pentru a ușura portarea jocurilor de pe Windows pe Mac, numit Game Porting Toolkit.„Apple’s Game Porting Toolkit could be a revolution for Mac gaming — here’s the proof”, tomsguide.com Ceea ce ar putea face coomputerele Mac ceva mai prietenoase cu gamerii, care știu de multă vreme că nu e un ecosistem potrivit pentru ei. Deși poate ​nu ar trebui să-ți cumperi unul pentru jocuri anul acesta.„Don’t buy a MacBook for gaming — macOS Sonoma isn’t the one”, laptopmag.com

Cursa TikTok pentru a nu fi interzis continuă

În cursa pentru a convinge guvernele occidentale că nu este un pericol pentru utilizatori, TikTok oferă tot felul de instrumente noi de moderare a conținutului. În special în ceea ce privește copiii și adolescenții, aplicația oferă noi instrumente pentru a verifica vârsta celor care se înscriu pe platformă, limitează lucrurile pe care le pot face și îi lasă pe părinți să le supravegheze contul.„TikTok bolsters tools to help teens and families better manage usage habits”, xda-developers.com

Recent, firma a mai anunțat că și-a actualizat sistemele de revizuire a conținutului, pentru a determina mai ușor dacă un clip va fi eliminat, revizuit de către un om sau dacă trebuie luată o altă decizie încercând să se alinieze regulilor tot mai stricte, cel puțin în Europa, legate de dezinformare politică sau științifică. Mai mult, TikTok lucrează la a ține datele utilizatorilor europeni pe servere din UE, prin Project Clover,„Setting a new standard in European data security with Project Clover”, tiktok.com la fel cum o face în SUA, cu Project Texas.

Mișcarea vine însă într-un moment în care au apărut informații că ByteDance, firma mamă, ar fi permis reprezentanților Partidului Comunist Chinez să acceseze date ale unor activiști din Hong Kong.„Analysis: There is now some public evidence that China viewed TikTok data”, cnn.com Cel puțin conform unui fost angajat, care a declarat asta Congresului american. Tot recent s-a aflat și că datele financiare ale creatorilor de top americani de pe platformă ar fi fost stocate în China,„TikTok Creators’ Financial Info, Social Security Numbers Have Been Stored In China”, forbes.com ceea ce ar contrazice scopul Project Texas.

Întrebarea care se pune este cât va rezista platforma dacă lista acestor încălcări se va lungi și dacă ar putea totuși ca, până atunci, să convingă, prin măsurile anunțate, că face totul ca la carte.

AI generativ în Adobe Photoshop

Adobe a adăugat o funcție de generare de conținut cu ajutorul AI, în imaginile editate cu Adobe Photoshop. Numită Generative Fill,„Generative Fill”, adobe.com aceasta funcționează pe bază de prompturi, la fel ca cele de pe site-uri ca Midjourney și DALL-E, și e disponibilă în versiunea beta a programului.

Recomandările Mindcraft Stories

  1. Că tot continuă greva scenariștilor din SUA, iată o scurtă povestire semnată de Kate Brody și publicată de Noema,„The AI In The Writers’ Room”, noemamag.com care abordează fix problema folosirii AI-ului în scrierea de scenarii.
  2. Un articol din Wired„The US Is Openly Stockpiling Dirt on All Its Citizens”, wired.com arată că serviciile de informații americane au găsit o nouă metodă de a accesa datele cetățenilor: le cumpără de la firmele interesate să le vândă. Și, mai ales pe piața din SUA, unde nu există GDPR, numeroase firme sunt dispuse să adune cantități largi de date, în special în scop publicitar, iar cetățenii le oferă cu generozitate.
  3. Mai e loc pe piața start-up-urilor de autovehicule electrice? Jurnaliștii de la Road&Track„The Window Is Closing for EV Startups”, roadandtrack.com cred că nu prea și au niște argumente pentru asta.


Text de

Mihai Ghiduc

Redactor-șef. A oscilat între print (Opinia studențească, Men's Health, Maxim, Marie Claire) și online (Vice, Glamour, Slow Forward) până l-a prins din urmă revoluția tehnologică.

ȘTIINȚĂ|FYI

Milioane de jucători de Borderlands 3 au ajutat la cercetarea microbiomului intestinal

De
Unul dintre cele mai populare jocuri de tip looter-shooter transformat simplul act de a rezolva puzzle-uri într-un efort de știință comunitară
MEDIU|FYI

Două forme de viață s-au unit într-un singur organism, pentru prima dată într-un miliard de ani

De
Două forme de viață s-au unit pentru a forma un singur organism. Procesul, extrem de rar, se numește endosimbioză primară și a mai avut loc atunci când au apărut plantele.
AI&ROBOȚI|FYI

Boston Dynamics a lansat un model electric al robotului umanoid Atlas, care va fi testat prima dată în fabricile auto Hyundai

De
Boston Dynamics, liderul mondial în dezvoltarea de roboți mobili, și-a luat la revedere de la unul dintre modelele principale, dar nu pentru mult timp.
TEHNOLOGIE|FYI

The Boring Phone, un telefon „dumb”, dar nu plicticos

De
Colaborarea dintre HMD, Heineken și Bodega propune un telefon cu un nume care te face să te gândești la Elon Musk.