Slow Forward: Drama OpenAI s-a terminat cu victoria comercialului

Sam Altman rămâne CEO, dar nimeni nu știe încă exact de la ce s-au certat. DeepMind anunță noi descoperiri majore, Sony lansează un senzor revoluționar, iar Musk se înjură cu clienții de publicitate.

Pentru aproape o săptămână, OpenAI, compania care a făcut din AI-ul generativ un succes de public, prin ChatGPT și DALL-E, a fost la un pas de destrămare, după demiterea CEO-ului Sam Altman de către consiliul de administrație. Am scris, pe larg, despre eveniment în weekendul în care s-a declanșat drama.

CITEȘTE ȘI: Sam Altman a pierdut Ctrl-ul OpenAI ; „OpenAI e nimic fără oamenii săi.” Lupta internă, câștigată de Microsoft 

Până la urmă, OpenAI a supraviețuit, Altman a revenit, iar angajații nu s-au mutat în masă la o divizie Microsoft, cum au amenințat, dar tot nu e clar de la ce a pornit drama.

Altman a revenit la OpenAI după doar cinci zile

Conflictul a fost descris fie drept unul între „acceleraționiști” și „doomeri” pe tema dezvoltării inteligenței artificiale generale, fie drept unul între adepții utilizării altruismului efectiv în dezvoltarea inteligenței artificiale generale (AGI) și cei care vor să obțină beneficii comerciale. 

Peste această discuție s-a suprapus un posibil leak despre un proiect OpenAI numit Q*, care ar putea fi la fel de bine și un hoax, care adus la nenumărate speculații: de la „Q* l-ar fi speriat pe Ilya și determinat să voteze împotriva lui Altman” până la „s-a atins deja AGI la nivel intern”. 

E vremea pentru niște definiții și clarificări

Simt nevoia să clarific câțiva dintre termenii folosiți mai sus. Despre inteligența artificială generală știe toată lumea deja că e scopul declarat al OpenAI,// „Planning for AGI and beyond”, openai.com // să dezvolte un AI care gândește (mai bine) ca un om, după principiile altruismului efectiv.

Altruismul efectiv presupune dezvoltarea AGI în moduri care maximizează beneficiile pentru umanitate și minimizează riscurile potențiale. E posibil ca unii membri ai consiliului de administrație să considere că orientarea OpenAI către profit să contrazică acest principiu, dar mai există și discuția despre viteză.

Acceleraționiștii sunt cei care cred că este mai important ca AGI să fie dezvoltat rapid („dacă n-o facem noi, o vor face alții”) și că eventualele probleme vor fi rezolvate pe parcurs. Doomerii cred că dezvoltarea trebuie încetinită sau chiar oprită dacă AGI-ul nu poate fi aliniat cu interesele umane.

Alinierea e un termen important în filozofia care înconjoară inteligența artificială. Există riscul ca obiectivele AGI să fie unele diferite, iar omenirea să devină o victimă colaterală a încercării AGI de a le atinge. Așa numitul scenariu „paperclip maximizer” („maximizatorul de agrafe”) spune că, dacă un AI primește sarcina de a produce agrafe și resurse nelimitate, el nu se va opri până nu va umple planeta de agrafe și va lupta împotriva oricui îl împiedică.

Un nou board, exclusiv masculin

Pe 21 noiembrie, la cinci zile de la declanșarea conflictului, Sam Altman s-a întors la OpenAI, tot în funcția de CEO, iar mare parte din consiliul de administrație va fi schimbat. Atât Altman, cât și Greg Brockman, nu vor mai fi membri ai board-ului.

Pe 29 noiembrie, Altman a anunțat// „Sam Altman returns as CEO, OpenAI has a new initial board”, openai.com // un consiliu de administrație temporar, format din Adam D’Angelo, CEO-ul Quora – singurul supraviețuitor al fostei formule –, Bret Taylor, fost co-CEO Salesforce, și Larry Summers, fost Secretar al Trezoreriei SUA, care va conduce compania non-profit. Prin urmare, Helen Toner și Tasha McCauley au demisionat.

Prioritățile declarate ale lui Altman sunt continuarea cercetării pentru dezvoltarea AI, cu deplină atenție la siguranță, îmbunătățirea produselor existente, punerea la dispoziție a unora noi pentru clienții companiei și crearea unui consiliu de administrație cu viziuni diverse. Toate, cu scopul final de a dezvolta un AGI de care să beneficieze toată lumea.

Printre rânduri se citește însă o victorie a acceleraționiștilor și adepților profitului.

Cu accentul pus pe viitor, problemele curente ar putea fi ignorate

E foarte posibil ca întregul conflict să fi pornit de la ceva mult mai banal: anunțul intempestiv// „Introducing GPTs”, openai.com // al lansării posibilității dezvoltării de către oricine a unor GPT-uri personalizate, care să performeze mai bine în sarcini limitate, cum ar fi scrierea creativă, scrierea de cod, crearea de rețete, design de stickere etc.

Chiar și presupusul leak despre Q*, amplificat de faptul că într-un interviu recent Altman a folosit termenul „nefericitul leak”,// „Interview: Sam Altman on being fired and rehired by OpenAI”, theverge.com // e despre o problemă ce nu ține de AGI: Q* ar fi fost capabil să descifreze un text criptat într-o cheie de 192 de biți.

Practic, disputa despre „ce-o să facem când vine AGI-ul” omite cu grijă problemele pe care le crează deja AI-ul. Vorbind despre siguranța unei ipotetice inteligențe artificiale generale – care e posibil să nici nu fie atinsă fără un avans științific semnificativ, fiindcă nu e doar un GPT-4 cu mai multe resurse –, cei de la OpenAI nu mai trebuie să se îngrijoreze de joburi pierdute,// „ChatGPT could threaten 300 million jobs around the world”, digitaltrends.com // decizii administrative greșite luate de algoritmi, folosirea acestuia pentru fraude, de la scam-uri digitale// „Scammers Used ChatGPT to Unleash a Crypto Botnet on X”, wired.com // la unele științifice,// „ChatGPT generates fake data set to support scientific hypothesis”, nature.com // și impactul semnificativ pe care ChatGPT îl are asupra educației.// „ChatGPT: opportunities and challenges for education”, cam.ac.uk //

CITEȘTE ȘI: Inteligența artificială discriminează. Dar tu cum afli?

Milioane de noi cristale descoperite cu ajutorul AI

În timp ce OpenAI se chinuie să convingă pe toată lumea cât de minunat e generatorul lor de text care nici nu mai vrea să „muncească”,// „ChatGPT has become unusably lazy”, reddit.com // laboratorul DeepMind de la Google chiar folosește AI-ul pentru adevărate avansuri științifice. Aceștia tocmai au anunțat// „Millions of new materials discovered with deep learning”, deepmind.google // că un nou tool AI numit Graph Networks for Materials Exploration (GNoME) a descoperit 2,2 de milioane de noi tipuri de cristal, dintre care 380.000 sunt stabile. Sintetizate, acestea ar putea duce la crearea de semiconductori mai performanți sau baterii mai încăpătoare.

DeepMind a publicat cercetarea în Nature, // „Scaling deep learning for materials discovery”, nature.com // alături de o lucrare a cercetătorilor de la Laboratorul Lawrence Berkeley,// „An autonomous laboratory for the accelerated synthesis of novel materials”, nature.com // care au folosit deja informațiile obținute de AI pentru a sintetiza o parte dintre nou descoperitele cristale. Și alte laboratoare au făcut acest lucru: în total, au fost sintetizate 736 de materiale noi.

DeepMind estimează că GNoME a reușit să obțină informații pentru care ar fi fost nevoie de 800 de ani de cercetări, după metodele clasice.

Alte știri, pe scurt

X are din nou probleme cu publicitatea

După ce Media Matters// „As Musk endorses antisemitic conspiracy theory, X has been placing ads for Apple, Bravo, IBM, Oracle, and Xfinity next to pro-Nazi content”, mediamatters.org //  a acuzat X, fostul Twitter, că afișează reclamă alături de conturi de extremă dreapta, mai mulți clienți și-au retras publicitatea de pe platformă. 

Elon Musk a reacționat agresiv și a dat în judecată Media Matters,// „Why Elon Musk’s X sued Media Matters in Fort Worth, Texas (of all places)”, axios.com // pe motiv că ar fi exagerat (sau chiar creat) problema. CEO-ul X, Linda Yaccarino, a susținut și ea// „Linda Yaccarino: “Deceptive Attacks” Are Fueling X Advertiser Exodus”, hollywoodreporter.com // că articolul  e un „atac înșelător”. Proprietarul X a ales să deschidă procesul în Texas, în speranța că un stat conservator va fi de partea sa.

Recent, într-un interviu dat la un eveniment The New York Times, Musk i-a înjurat direct pe advertiseri// „Elon Musk Just Told Advertisers, ‘Go Fuck Yourself’”, wired.com // și a spus că, dacă boicotul continuă, X s-ar putea închide.

Noul senzor Sony ar putea revoluționa fotografia

Sony a anunțat noua cameră Alpha 9 III,// „Sony Releases the Alpha 9 III; the World’s First Full-Frame Image Sensor Camera with a Global Shutter System”, sony.co.uk // prima care folosește un senzor CMOS full frame cu shutter global, adică expune întregul senzor, în același timp, la lumină. 

Până acum, senzorii CMOS foloseau așa numitul rolling shutter, adică o expunere rând după rând, extrem de rapidă, dar care creează distorsiuni atunci când fotografiezi ceva ce se mișcă cu viteză, cum ar fi elicea unui avion.

Exemplu de imagine capturată cu rolling shutter. Foto: Mihai Ghiduc

Trebuie însă spus că primii senzori digitali pentru fotografie, care erau de tip CCD,// „CCD vs CMOS”, teledynedalsa.com // foloseau la rândul lor un shutter global, dar au fost înlocuiți de tehnologia CMOS, care are un consum energetic mai mic, permite o procesare mai rapidă și un dynamic range mai mare, precum și frame rate-uri mai ridicate pe video.

În sfârșit, Omegle s-a închis

Chatul în care puteai sta de vorbă cu o persoană aleasă întâmplător, dar cunoscut mai ales pentru cantitatea de bărbați goi pe care-i puteai vedea într-o singură navigare și considerat un magnet pentru  prădători sexuali,// „The Internet Is Full of Predators. Omegle Lets You Meet Them”, motherjones.com // s-a închis după 14 ani// Anunțul poate fi văzut pe omegle.com // tocmai din cauza acestei probleme. 

Un proces deschis de o femeie care a fost abuzată,// „Video chat site Omegle shuts down after 14 years — and an abuse victim’s lawsuit”, npr.org // începând cu vârsta de 11 ani, pentru că Omegle a introdus-o unui adult, a fost motivul pentru care fondatorul Leif K-Brooks a luat decizia să renunțe la site. Nu înainte de a-i plăti o sumă nedezvăluită victimei (aceasta ceruse 22 de milioane de dolari).

Samsung intră în cursa AI

Samsung a anunțat un AI generativ propriu, numit Gauss,// „Samsung AI Forum 2023 Day 2: Discussing Technological Trends and the Future of Generative AI”, samsung.com // după celebrul matematician german, care va fi disponibil de anul viitor, cel mai probabil pe noile telefoane S24.

Modelul are trei module, unul de limbaj, unul pentru cod și unul pentru imagini. Faptul că AI-ul generativ ajunge să fie integrat într-un telefon și alte gadgeturi ar putea fi un pas important în folosirea mai largă a acestor instrumente de către publicul larg.

Apple adoptă RCS pentru mesaje

Din 2024, Apple va adopta// „Apple announces that RCS support is coming to iPhone next year”, 9to5mac.com // standardul RCS (Rich Communication Services) pentru mesajele mobile, un protocol mai performant decât SMS sau MMS, ceea ce va permite trimiterea de mesaje mai complexe și către dispozitive Android.

Mai important, Apple nu va mai aloca culori diferite utilizatorilor de iOS și Android în aplicația iMessage.

Recomandările Mindcraft Stories

1. Merită citit eseul lui James Somer din The New Yorker// „A Coder Considers the Waning Days of the Craft”, newyorker.com // despre felul în care se schimbă lumea programării în epoca inteligenței artificiale, care e și o lungă introducere într-o epocă în care meseria asta era văzută ca magică și spectaculoasă. Da, iată că în 2023 programatorii au devenit nostalgici;
2. The New York Times Magazine// „Russell Brand’s Alternate Reality”, nytimes.com // face o incursiune în lumea lui Russell Brand, transformat din actor în vedetă online care promovează teorii conspirative și, mai nou, într-un paria, din cauza acuzațiilor de abuzuri sexuale;
3. O industrie în creștere, cea a iubitelor AI, are deja o criză. O parte dintre companiile care oferă astfel de servicii se închid. Dazed Digital povestește// „What happens when your AI girlfriend dies?”, dazeddigital.com // ce se întâmplă când îți „moare” iubita virtuală.