Ilustrație: mikimad / Getty Images. Alec Pop

„Investiți 1.100 RON pentru profit garantat!” Cum sunt păcăliți românii cu reclame deepfake21 min read

De Radu Stochița 07.02.2024

Deepfake-uri cu personalități publice din România sunt promovate nestingherit pe Youtube și Facebook. În Parlament se discută o lege pentru a limita fenomenul, iar rețelele de socializare răspund încet problemei.

Săptămâna trecută, în mijlocul unui clip de pe YouTube, mi-a intrat un calup de reclame., În timp ce așteptam să se termine pentru a continua să văd video-ul, pe ecran a apărut Iancu Guda, în platoul emisiunii pe care o realizează pe Digi24. Calitatea imaginii era redusă, aproape pixelată, iar pe tabla pe care Iancu o folosește să explice metode de economisire a banilor, se afla  acum numele unei platforme financiare, Immediate Matrix.

În partea de jos a ecranului, burtiera cu sigla Digi24 promitea „o retragere garantată de 20.000 RON în fiecare lună” după o depunere inițială de 1.100 RON.// Mai toate aceste reclame deepfake folosesc RON, în loc de lei // În reclama care a fost plătită de-o pagină ce se intitula Romania Breaking News (care nu mai este activă), Iancu Guda, cu o voce mai răgușită ca de obicei, menționa că platforma Immediate Matrix este folosită de mai mult de 30.000 de români în prezent, iar fiecare câștigă peste 17.000 RON lunar.

Am căutat pe internet sigla companiei și numele acesteia, dar singurul rezultat este o pagină de Facebook ce trimite către site-ul Facultății de Business din Londra, dar care în trecut făcea reclamă la săpunuri. 

Între-timp, tot în pauza unui videoclip de pe Youtube, Ion Țiriac vorbește despre investiția minimă de 1.100 RON pentru ca „sistemul să poată face tranzacții profitabile pe piața bursieră și criptomonede”. În josul videoclipului, pe burtieră, de data aceasta este sigla ProTV cu mesajul „Platforma inovatoare a fost pusă la dispoziția tuturor cetățenilor”. 

Reclama nu este plătit de postul de televiziune, ci de Hametzia.com, un site care spune că „Susținem referitoare la educația adulților”. Site-ul este un mix de engleză și română din care nu se înțelege prea bine ce i se oferă utilizatorului, care este invitat să-și lase numele, prenumele și adresa de e-mail. 

Câteva minute mai târziu, tot pe Youtube, Gigi Becali alături de un prezentator de televiziune, vorbesc despre o aplicație pentru „cetățenii obișnuiți”. Aplicația nu este alta decât Immediate Matrix, iar investiția necesară este tot de 1.100 RON. Apare că Gigi Begali vorbește în direct la România TV unde promite că platforma va efectua tranzacții profitabile garantat, doar că reclama nu este plătită de postul lui Sebastian Ghiță, ci de Immatrixofficial.com, o replică a site-ului Hametzia.com.

Rețeta reclamelor e similară. Se folosește o personalitate din spațiul românesc, cineva care să inspire încredere unui grup de oameni, care mai apoi promite profit garantat în schimbul sumei fixe de 1.100 RON. 

Căutări pe Facebook Ad Library// Disponibilă aici: facebook.com // după cuvinte-cheie precum „platformă de investiții” dezvăluie numeroase alte reclame realizate cu deep fake care se folosesc de imaginea unor politicieni precum Marcel Ciolacu, Mircea Geoană, Sorin Grindeanu sau alte personalități publice. Adesea, acestea promit acțiuni la companii din domeniu energetic, precum Enel sau Hidroelectrica, și calmează o garanție a statului român pentru acestea.

Un fenomen vechi a primit update cu AI

Chiar dacă reclamelele fake nu sunt o noutate pentru spațiul virtual, în ultima perioadă, de când cu dezvoltarea modelelor de inteligență artificială generativă, numărul acestora s-a înmulțit. În prezent nu există date referitoare la acest fenomen, dar fără o strategie clară de-a preveni fenomenul, este de așteptat ca fenomenul să se amplifice. Astăzi, Iancu Guda face reclamă unui serviciu care nu există, dar mâine poate că un politician român va promova un medicament spectaculos.

Medicamentele-minune sunt o altă țintă a acestor clipuri deepfake, ceea ce indică destul de clar și ce public țintesc acești escroci. Șerban Damian, un medic nutriționist cunoscut în mediul online, anunța recent pe Facebook// Poți citi detalii pe pagina sa, facebook.com // că a fost victima unei astfel de campanii, dar spunea și că mulți utilizatori și-au îndreptat nemulțumirile asupra sa, un semn clar că n-au identificat clipul ca unul fals. 

Fenomenul nu este nou. Reclamele false au crescut odată cu internetul, s-au dezvoltat pe baza unei curiozități nestăpânite ale utilizatorilor și o dorință de-a primi ceva în mod ușor. Dacă în anii 2000 ți se promiteau telefoane și calculatoare pentru că ai fi câștigător la o tombolă, mai târziu Țiriac și alte personalități din spațiul public păreau că te îndeamnă să-ți încercii norocul. 

Fenomenul este numit malvertising și continuă să triumfe, iar formule vechi revin des în spațiul public, cu câteva elemente distinctive: imagini de slabă calitate, link-uri dubioase și pagini care le promovează fără vreo legitimitate.

De ce nu acționează rețelele de socializare?

Anul trecut scriam despre reclamele referitoare la inteligența artificială care au invadat Facebook, despre site-uri fantomă ce promiteau Bard, serviciul de AI al Google, care nu era disponibil în Europa în acel moment. Rețeta după care se acționa era simplă: scammerii identificau o pagină cu un număr ridicat de like-uri, o cumpărau (sau o hackuiau), o converteau într-un loc de promovare a inteligenței artificiale, iar mai apoi cumpărau reclame.

CITEȘTE ȘI: Cum s-a umplut Facebook de reclame false și scamuri?

Google a dat în judecată un grup de trei persoane care se foloseau de imaginea companiei pentru a promova acest serviciu.// Google sues scammers over creation of fake Bard AI chatbot”, cointelegraph.com // Meta a dat reclamele jos, dar fără vreun plan de acțiune coerent referitor la pericolul reclamelor false și al conținutului generat de inteligență artificială, lucru confirmat și de Consiliul de Supraveghere Independent al companiei.// Meta Oversight Board Warns Rules on Fake Posts are ‘Incoherent’”, bnnbloomberg.ca // În martie 2023, Meta a trebuit să le explice autorităților australiene de ce a permis ca reclame false ce impersonau celebrități locale.// „Meta slammed over scam ads on Facebook featuring Australian TV personalities”, theguardian.com //

Tehnologia AI se dezvoltă rapid, nu mai este vorba doar de-a rezolva probleme de matematică sau a scrie un eseu. Acum AI-ul poate crea cărți de identitate, clipuri porno cu actrițe și cântărețe celebre sau poate chiar impersona persoane publice, inclusiv autorități, cum a fost recent și cazul lui Mugur Isărescu. Deși guvernatorul general al BNR a raportat neregulile către Meta, compania i-a răspuns că deepfake-ul respectă de fapt standardele rețelei.// Isărescu l-a raportat pe ‘Isărescu’ lui Zuckerberg pentru deepfake / Răspunsul Meta: Sunt respectate standardele comunității”, hotnews.ro //

Este una dintre problemele serioase pe care le au Meta,YouTube – și probabil și alte platforme: faptul că, în căutarea profitului, aprobă cu lejeritate și, adesea automat, postările care sunt promovate pe platformă.

Cât de pregătiți sunt românii să facă față acestui fenomen?

Au fost deja cazuri de oameni care au căzut în capcana reclamelor de pe Facebook ce foloseau doar imagini statice, prin care li se promitea că dacă investesc în Transgaz o anumită sumă o vor primi înapoi înzecit.// Știri false și atacuri de tip phishing care promit câștiguri mari cu acțiuni Transgaz. Compania avertizează că este o fraudă”, hotnews.ro // Dacă un simplu colaj poate păcăli, clipurile sunt și mai periculoase. Diferența esențială dintre reclamele false de până acum și posibilitățile introduse de generarea unui videoclip cu ajutorul inteligenței artificială este realismul mult mai ridicat al celor din urmă. Dacă, până în prezent, reclamele false erau un colaj de slabă calitate cu Ion Țiriac în jet-ul privat, acum ai parte de generare de voce sau dialog, uneori și de animarea feței sau crearea unor mișcări corporale care pot face clipurile mult mai credibile.

Discuțiile din spațiul public despre evoluția tehnologiei artificială arată o îngrijorare pentru la soarta adevărului online. În condițiile în care aproape toată populația României folosește internetul – în ultimul decenium numărul utilizatorilor a crescut de la 62,4% la 92,55%, conform datelor Eurostat,// Numărul de utilizatori de internet, ec.europa.eu // se pune întrebarea câți români știu să se și ferească de pericolele sale.

Creșterea numărului de utilizatori nu a venit la pachet cu vreun curs asupra siguranței pe internet. Mai degrabă, fiecare utilizator a fost aruncat într-un mediu ostil de navigat și a trebuit să se descurce pe cont propriu. 

Eforturile de educare asupra fenomenului de fake news sunt încă în stadii incipiente, nu doar în România, ci în tot ecosistemul digital. Discuțiile despre fenomenul de fake news rămân în continuare blocate într-o bulă care se interesează activ de siguranța pe internet, doar că pentru majoritatea dintre români acest lucru nu reprezintă o prioritate. 

În timp ce aproape 72% dintre europeni cunoșteau faptul că cookie-urile sunt folosite și pentru a urmări activitatea web a unei persoane, doar 48,65% dintre români erau familiari cu acest lucru, conform datelor Eurostat// Securitatea și protecția datelor personale, ec.europa.eu //. Doar 29,35% dintre români au refuzat să-și dea acceptul, atunci când li s-a cerut de către o aplicație sau un site web să le folosească datele personale pentru reclame, comparativ cu media europeană de 47,32%.// Securitatea și protecția datelor personale, ec.europa.eu //

Referitor la problema identificării fenomenului de fake news, românii au identificat mai puține informații false decât media europeană, au verificat de mai puține ori validitatea informației, iar spre sursă nu s-au dus aproape deloc (8% vs 21,42%). Doar 5,29% dintre români declară că nu au verificat din cauză că nu au cunoștințele necesare, doar că statistica este înșelătoare, mai ales că este bazată pe o autoevaluare.

Care sunt grupurile vulnerabile?

Vulnerabilitatea în mediul online este privită greșit. Deși e adevărat că, în principal, persoanele vârstnice care de-abia ce au luat contactul cu tehnologia sunt mai susceptibile la scam-uri, și tinerii pot pica în capcane. Reclamele au publicuri diferite, iar promisiunile unui colaj de slabă calitate cu Ion Țiriac nu va rezona atât de ușor cu tinerii care au crescut odată cu internetul și au dezvoltat un ochi mai critic. 

Totuși, tehnologia generativă poate deveni înspăimântător de reală: un bancher din Hong Kong a transferat 25 milioane de dolari într-un cont, după ce a fost asigurat că trebuie să facă această tranzacție de un șef. Doar că a fost vorba, de fapt, de un deep fake al unei ședințe de lucru online.// „Finance worker pays out $25 million after video call with deepfake ‘chief financial officer’”, cnn.com //

Educația digitală se face mai degrabă prin inițiative private ale ONG-urilor, cu mici intervenții ale statului. Dar, din nou, aceste informații ajung doar la un grup restrâns de oameni. 

Ar putea fi rezolvate lucrurile legislativ? Combaterea fenomenului deepfake se dezbate deja în Parlamentul României,// PL-x nr. 471/2023 Proiect de lege privind utilizarea responsabilă a tehnologiei în contextul fenomenului deepfake cdep.ro// unde a fost propusă o legea care are ca scop marcarea explicită a conținutului generat de inteligență artificială. 

Dezvoltarea unui cadru legislativ reprezintă un pas important, însă nu este nici pe departe îndeajuns pentru a combate dezinformarea. Facebook a apelat la o rețea de organizații terțe, precum este Factual// O poți accesa pe factual.ro // în România, care se ocupă de identificarea știrilor false. Există și organizații ce fac educație referitoare la știrile și reclamele false, dar încă nu ajung să deservească nevoile generale ale populației.

Chiar dacă reclamele cu Gigi Becali, Iancu Guda, Mugur Isărescu sau Șerban Damian vor fi date jos în următoarele zile, altele noi vor fi apărea în cel mai scurt timp. Poate nu-ți vor mai cere să investești 1.100 ROn în acțiuni sau să cumperi un medicament minune, ci îți vor vinde vreun gadget sau, mai degrabă, vreo altă metodă de a te îmbogăți rapid.  Se vor reinventa, vor folosi noi personalități, însă scopul o să rămână mereu aceeași – a sustrage bani de la indivizi vulnerabili.



Text de

Radu Stochița

Radu Stochița este jurnalist freelancer și a scris despre tech, economie și lumea muncii pentru Hotnews, Libertatea, Jacobin, Nation, Al Jazeera. În paralel, face cercetare economică pentru Cartel ALFA. Radu a absolvit Bowdoin College, din SUA, și este Watson Fellow.

MONEY|FYI

Coin Toss: Companiile de tech continuă valul de concedieri, iar AI-ul ar putea fi parte din problemă

De
Disponibilizările în sectorul tech continuă, Sam Altman are nevoie de 7 triliarde de dolari pentru a revoluționa industria semiconductorilor, iar un preot catolic îl învață pe Papa care-i treaba cu AI-ul.
MONEY|SCI-FACTS

6 fraude care au zguduit lumea afacerilor tech din SUA

De
De la colapsul recent al FTX și falimentul Theranos la cele mai absurde povești din bula dotcom, domeniul tech din SUA a fost mereu o țintă pentru fraude elaborate
MONEY|MS TALKS

Munca hibridă nu va dispărea, iar regulile acesteia încă se stabilesc

De
Într-o prezentare pe scena How to Web 2022, Christoph Auer-Welsbach a spus că „munca hibridă e aici pentru a rămâne”. Dar în ce condiții?
MONEY|RĂZBOI ÎN UCRAINA

Sancțiuni: E afectată Rusia de tăierea accesului la SWIFT?

De
Pe lista sancțiunilor aplicate agresorului rus s-a adăugat, după multe negocieri, și accesul la SWIFT. Creează însă asta cu adevărat o problemă?