„Țară, țară, vrem… chipuri modificate algoritmic”11 min read

Mindcraft Stories | 18.07.2019

Sabina – Alexandra Ștefănescu este co-fondatorul comunității Security Espresso și Tech Officer în Code for Romania.

 

„Țară, țară, vrem… chipuri modificate algoritmic, să arate cu patruzeci de ani mai bătrâne!” – Ăsta ar fi un rezumat bun al fenomenului din jurul hashtag-ului #faceappchallange. 

Aplicația FaceApp a generat valuri de amuzament, urmate de valuri de indignare. Funcționarea ei este simplă: oricine o instalează poate să încarce în aplicație o fotografie cu propriul chip, iar aplicația îi arată, apoi, chipul modificat astfel încât să arate fie îmbătrânit, fie întinerit. La baza transformării stau algoritmi de inteligență artificială – simple reguli care modelează anumite trăsături ale unui chip, ca și cum cineva s-ar juca în Photoshop cu fotografia. Dacă îmbătrânim, în colțurile gurii și ale ochilor apar riduri. Părul devine gri, sau alb. FaceApp oferă doar niște constatări statistice, spre amuzamentul utilizatorilor. 

Indignarea a fost generată nu de constatarea adevărului că frumusețea e trecătoare, ci de un tweet. Un programator pe nume Joshua Nozzi a atras atența celor care foloseau FaceApp că aplicația trimite toate fotografiile din telefonul utilizatorului către serverul companiei. Adică, odată instalată și deschisă, aplicația ar copia toate fotografiile din telefonul meu pe serverul Wireless Lab din St. Petersburg, în Rusia. 

Motivul indignării putea să se rezume la faptul că fotografiile unui utilizator sunt copiate fără consimțământ, sau se putea extinde cu oroarea de a trimite informații cu caracter personal “rușilor”. Foarte rapid, au venit și reacții din mediul politic: senatorul american Chuck Schumer, din New York, a cerut F.B.I.-ului să investigheze activitatea companiei din spatele FaceApp. 

Din fericire, indignarea nu a durat mult. Cercetătorul în domeniul securității cibernetice Elliot Alderson – acesta fiind pseudonimul său – și programatorul Ivan Rodriguez, angajat Google, au făcut același efort, independent unul de celălalt: au verificat ce date sunt trimise de către FaceApp pe serverul companiei.

Amândoi au ajuns la aceeași concluzie, care a fost, apoi, reiterată și de companie, printr-un comunicat public: fotografiile din telefonul unui utilizator nu părăsesc dispozitivul în care sunt stocate. Aplicația copiază doar fotografia pe care un utilizator vrea să o modifice, și face acest lucru pentru a se asigura că procesarea fotografiei durează cât mai puțin. Mai mult, compania susține că nicio fotografie nu e păstrată pe serverul lor mai mult de 48 de ore. Nicio altă fotografie din telefon nu este copiată. 

Lucrurile pe care FaceApp ajunge să le știe despre noi nu sunt multe. Aplicația nu cere utilizatorului să își creeze un cont, deci adresa de e-mail sau numărul de telefon al persoanei care o folosește nu sunt niciodată asociate fotografiilor. Singurele detalii legate de telefonul utilizatorului pe care aplicația le citește sunt un identificator al echipamentului pe care rulează aplicația, împreună cu modelul telefonului. Acestea sunt informații foarte des procesate de aplicațiile mobile pentru a stabili, de exemplu, dacă sistemul de operare al telefonului este suficient de nou pentru a putea să ruleze aplicația. 

Termenii și condițiile pe care utilizatorul le acceptă, atunci când instalează și vrea să folosească aplicația, definesc termenul de „conținut creat de utilizator” (User Content). Acesta se referă la rezultatul aplicării algoritmilor FaceApp asupra unei fotografii din telefonul utilizatorului. Compania are dreptul permanent și irevocabil să folosească, să modifice și să distribuie acest conținut. Asta înseamnă că o fotografie produsă de FaceApp poate să fie folosită de Wireless Lab, dar acest drept nu se extinde sub nicio formă la alte fișiere din telefonul utilizatorului.

Întregul comunicat al companiei Wireless Lab poate fi citit pe TechCrunch. 

Joshua Nozzi și-a șters mesajele în care acuza FaceApp de faptul că accesează, fără permisiune, toate fotografiile din dispozitivele utilizatorilor. Pe website-ul personal, a publicat un articol detaliat în care a admis greșeala făcută.

Din nefericire, obiectul indignării este o distragere de la o problemă reală. Abilitatea de a identifica un om într-o fotografie este de neprețuit pentru multe instituții, companii și chiar indivizi. De la forțele de poliție, care caută să identifice suspecții filmați de camere de supraveghere, la magazinele care permit clienților să plătească prin simpla scanare a feței lor (care este, desigur, asociată contului bancar), tehnologia recunoașterii fețelor este de un real interes. Iar algoritmii din spatele recunoașterii au nevoie de antrenament. Au nevoie, realmente, să vadă cât mai multe fețe. 

Nevoia de a antrena inteligența artificială pentru a identifica indivizi a necesitat eforturi, uneori ilegale, de a procura material. Universitatea Colorado, din Colorado Springs, a adunat timp de 20 de zile 1.700 de fotografii ale studenților fără a-i informa și fără a le cere consimțământul. Microsoft a retras o bază de date de peste 10 milioane de chipuri, aparținând unor 100.000 de oameni. Imaginile din această bază de date au fost colectate de către Microsoft din surse publice, dar fără a informa în mod explicit posesorii fotografiilor. 

Hashtag-ul #10yearschallenge de pe Facebook este un alt exemplu al unui fenomen în care utilizatorii unei platforme au creat, benevol, material ce ar putea să fie folosit pentru a antrena algoritmii de recunoaștere facială. Nu există nicio dovadă că acesta a fost scopul fenomenului – în definitiv, mulți oameni s-au amuzat alăturând fotografii ale lor din prezent și fotografii ale lor de acum zece ani. Însă nu este nevoie ca Facebook să fi avut această intenție. Suficient de multe fotografii sunt postate public, iar orice persoană suficient de motivată le poate aduna într-o bază de date. 

În definitiv, problema securității datelor personale nu este una simplă. Uneori, companiile sau instituțiile apelează la măsuri ilegale pentru a atinge un scop – în cazul de față, acela de a colecționa material pentru a antrena algoritmi de recunoaștere facială. Aceste acțiuni sunt intens mediatizate, creând impresia că fenomenul este unul extrem de răspândit. Adevărul, însă, este că fenomenul este altul: acela al cedării informațiilor cu caracter personal unei platforme, unei aplicații, în schimbul divertismentului și a validării generate de o comunitate care se amuză la câte lucruri s-au schimbat în zece ani.