Yuichiro Chino/Getty Images

Cursa globală pentru reglementarea AI

De Cezara Panait 31.05.2021

Tehnologiile emergente avansează rapid, așa că este nevoie de reguli pentru acestea. Uniunea Europeană propune primul cadru legal din istorie pentru inteligența artificială. Cum este abordată reglementarea AI la nivel global?  

Inteligența artificială (AI) e deja prezentă în viața de zi cu zi și poate ajunge chiar să influențeze comportamentul social și pe cel din mediul online.„Technology and Democracy: Understanding the influence of online technologies on political behaviour and decision-making”, ec.europa.eu Sistemele AI realizează analize și predicții pe baza unor seturi de date complexe, astfel încât să poată conduce la decizii relevante, într-un timp foarte scurt. Acest lucru îmbunătățește semnificativ eficiența și productivitatea muncii și tinde la obiectivul de a face predicții imparțiale, spre deosebire de oameni, care au întotdeauna o urmă de subiectivitate în deciziile luate. Totuși, și algoritmii AI pot replica anumite stereotipuri sau prejudecăți existente în societate. Se creează astfel riscul ca decizia automată să încalce drepturile utilizatorilor (non-discriminarea, libertatea de exprimare, accesul la informații, dreptul la viață privată și protecția datelor etc.). 

Recunoașterea facială,„Facial recognition, other risky AI set for constraints in European Unions”, business-standard.com moderarea conținutului online,„Facebook is now using AI to sort content for quicker moderation”, theverge.com scorurile sociale pentru acordarea creditelor bancare,„EU to consider ban on using A.I. for mass surveillance and social credit scores”, cnbc.com sistemele de recrutare automate,„How AI Can Revolutionize Recruitment?”, medium.com realizarea de predicții pentru prevenirea criminalității,„An Algorithm That ‘Predicts’ Criminality Based on a Face Sparks a Furor”, wired.com crearea de deepfakes„Deepfakes and the New AI-Generated Fake Media Creation-Detection Arms Race”, scientificamerican.com sau identificarea emoțiilor utilizatorilor„I asked an AI to tell me how beautiful I am”, technologyreview.com sunt doar câteva exemple în care utilizarea AI-ului poate duce la încălcarea unor drepturi.

În acest moment, unul în care atenția internațională este îndreptată către impunerea de reguli pentru utilizarea AI, Uniunea Europeană (UE) propune primul cadru legal din istorie pentru AI,„Proposal for a Regulation laying down harmonised rules on artificial intelligence”,  digital-strategy.ec.europa.eu împreună cu un plan coordonat pentru statele membre pentru standardizarea și uniformizarea strategiilor și programelor în acest domeniu.„Plan on AI”,  digital-strategy.ec.europa.eu

Ce prevede viitorul Regulament european pentru inteligența artificială?

Înainte de a stabili noile obligații pentru statele membre, UE a încercat să determine care sunt riscurile pe care le prezintă diverse categorii de sisteme AI pentru drepturile fundamentale ale utilizatorilor. Sistemele au fost categorisite în mai multe graduri de risc.

CITEȘTE ȘI: Etică și AI. Putem avea încredere în roboți?

Aplicațiile AI care prezintă un risc inacceptabil pentru libertatea sau integritatea fizică a persoanelor vor fi interzise. În această categorie intră aplicații care pot manipula, în mod subliminal, comportamentul utilizatorului pentru a-i afecta libertatea de decizie (de la jucării care încurajează copiii, prin sisteme audio inteligente, să aibă un comportament periculos până la sistemul de acordare a scorului social de către guverne). De asemenea, identificarea biometrică în spații publice în timp real va fi interzisă, cu anumite excepții limitate.

O serie întreagă de aplicații prezintă un risc crescut. În această categorie intră sistemele de transport care pot pune în pericol viața și sănătatea persoanelor – spre exemplu, mașinile fără șofer care folosesc AI și, în ipoteza unui potențial accident, ar trebui să ia o decizie care poate salva sau pune în pericol viața persoanelor. De asemenea, este deja dovedit că procedurile de angajare și recrutare automate, care folosesc algoritmi AI pentru analizarea CV-urilor și ierarhizarea candidaților, au discriminat anumite categorii de candidați pe baza sexului, rasei, vârstei, etniei sau chiar a statutului social, deci vor intra și ele în categoria de risc crescut.

Risc crescut au și serviciile esențiale private și publice, precum cele care analizează acordarea unui credit bancar și îl pot refuza pe baza unui scorul social – și în această situație a fost identificată tendința algoritmilor AI de a discrimina. Acest lucru e deja interzis de Articolul 22 din Regulamentul General privind Protecția Datelor, care interzice aplicarea unor decizii automatizate, deși nu menționează implicit termenul de inteligență artificială.„Știai că inteligența artificială este reglementată în România de 19 ani?”, legalup.ro; „Cum impactează GDPR noul regulament AI”, decalex.ro 

De asemenea, utilizarea inteligenței artificiale în sistemul de justiție poate pune în pericol drepturile și libertățile fundamentale, precum și folosirea în procedurile de migrație, azil și control al granițelor prin verificarea automată a autenticității documentelor.

Chiar și sistemele AI care au un risc limitat (de exemplu, asistenții virtuali de tip chatbot) vor avea obligații specifice de transparență, astfel încât utilizatorii să știe că interacționează cu un robot și să poată lua decizii în consecință.

Propunerea legislativă nu va reglementa folosirea aplicațiilor cu un risc minim pentru utilizatori, precum jocurile video care folosesc inteligența artificială sau filtrele care detectează mesajele spam, categorie unde se vor încadra majoritatea sistemelor de AI, întrucât prezintă pericole minore sau nu implică astfel de riscuri.

Infografic: reglementarea sistemelor AI

Deși nu este infailibilă, modalitatea de a institui obligații și interdicții pe baza încadrării sistemelor AI în categorii de risc pare a fi cea mai bună soluție. Aceasta a fost avută în vedere încă de la elaborarea documentului strategic Cartea albă privind inteligența artificială (EU White Paper on AI)„Conturarea viitorului digital al Europei: Comisia prezintă Strategia privind datele și Strategia privind inteligența artificială”, ec.europa.eu din februarie 2020.

Pe lângă intervenția legislativă orizontală, care completează normele deja existente din sfera protecției consumatorului, a respectării datelor personale și a politicilor privind non-discriminarea și egalitatea de gen, Actul prevede și elaborarea unor angajamente voluntare sau coduri de conduită. Companiile vor putea adopta măsurile de prevenire a efectelor negative ale utilizării AI-urilor din aceste coduri sau angajamente, astfel încât să se creeze un cadru flexibil și adaptabil. 

Această propunerea de a implementa mecanisme de soft-law (instrumente cvasi-legale, cu o forță juridică scăzută) sau chiar angajamente voluntare din partea actorilor privați este susținută și la nivel global, spre exemplu, în Principiile directoare ale ONU privind mediul de afaceri și drepturile omului.„Guiding Principles On Business And Human Rights”, ohchr.org (PDF) Aceste principii prevăd măsuri prin care companiile pot conduce la respectarea drepturilor omului, spre exemplu prin efectuarea evaluărilor de impact pentru produsele pe care le realizează, obligații de diligență etc. Astfel, aplicarea unor asemenea coduri de conduită în privința sistemelor AI poate avea un real efect pozitiv în mediul digital.

Care sunt provocările propunerii UE de reglementare a sistemelor AI?

Întotdeauna, progresul tehnologic a funcționat astfel: mai întâi au apărut noi produse și servicii și abia ulterior a fost resimțită necesitatea reglementării acestora. Așa se întâmplă și în contextul actual, al unui mediu digital extrem de dinamic și inovator, în care există o varietate foarte mare de aplicații care folosesc AI. Astfel, pe de o parte există un pol al certitudinii juridice, care impune standarde ridicate de protecție pentru utilizatori și obligații pentru companii, iar pe de altă parte se regăsește dorința mediului privat de a inova, de a aduce noi soluții tehnologice în prim-plan și de a revoluționa sectorul digital.

Propunerea UE are în vedere crearea unui spațiu deschis de testare a aplicațiilor AI înainte de a fi puse la dispoziția utilizatorilor, într-un mediu denumit regulatory sandbox, care le-ar putea oferi, în special start-up-urilor și întreprinderilor mici și mijlocii, posibilitatea de a vedea cum interacționează sistemele create de ei, cum se poate asigura calitatea și relevanța datelor folosite de algoritmi și care este impactul asupra drepturilor omului. În condițiile adoptării propunerii, în anii următori, va fi esențială găsirea unui echilibru între stabilirea unui cadru juridic oportun pentru sectorul tehnologic și libertatea de a inova și de a experimenta pentru companii. Având în vedere evoluțiile rapide din acest domeniu, este necesar să existe atât flexibilitate, cât și o adaptabilitate a regulilor, care să nu constrângă avansul tehnologic prin suprareglementare.

Un alt aspect discutabil din propunerea de reglementare a AI la nivel european este modalitatea prin care se va determina că anumite sisteme ar avea un efect subliminal asupra utilizatorilor,„EU to ban unacceptable ‘subliminal’ AI systems”, lawsociety.ie prin prezentarea informațiilor într-un fel care să conducă la influențarea comportamentului lor. Felul în care sistemele AI vor putea influența atitudinea online a utilizatorilor necesită o supraveghere mult mai atentă, pentru a minimiza interferențele cu libertatea de gândire și de opinie, accesul la informații sau dreptul la viață privată al utilizatorilor.

Și împărțirea sistemelor AI în categorii de riscuri pentru drepturile și siguranța persoanelor poate fi problematică, întrucât aplicațiile pot avea utilizări diferite, iar evaluarea efectelor acestora în societate nu sunt întotdeauna lesne de identificat. Sistemele AI vor fi clasificate în funcție de scopul asumat, însă vor exista de multe ori și implicații sociale care nu au fost avute în vedere la momentul dezvoltării produsului. Mai mult decât atât, în timp, aplicațiile pot căpăta noi valențe, astfel că o monitorizare constantă a impactului acestora va fi necesară pentru încadrarea în grupele de risc. 

Care este statusul global al cursei pentru reglementarea AI?

Suveranitatea digitală și în special leadership-ul privind sistemele AI sunt dorite atât de UE, cât și de SUA sau China, iar abordările celor trei mari puteri din acest domeniu sunt cât se poate de diferite în ceea ce privește cercetarea și dezvoltarea în domeniul AI. 

Din analiza datelor puse la dispoziție de OECD AI Policy Observatory,„Live data from OECD.AI partners”, oecd.ai se observă că în clasamentul cercetării în domeniul AI conduc SUA, urmate de China și abia apoi de UE. Un studiu realizat de Center for Data Innovation la începutul acestui an confirmă aceeași ordine, cu mențiunea că în viitor este foarte posibil ca China să înlocuiască SUA ca lider mondial. UE pare să rămână în aceeași poziție ca în prezent.„Who Is Winning the AI Race: China, the EU, or the United States?”, datainnovation.org 

În aceste condiții, discrepanțele majore în abordările acestor mari puteri în ce privește sistemele AI devin și mai importante. Spre exemplu, în China se folosesc sisteme de acordare a scorului de credit social„China Social Credit System, Punishments and Rewards Explained”, businessinsider.com care ar putea să le restricționeze cetățenilor accesul la împrumuturi bancare, transport sau educație pe baza monitorizării comportamentului lor. În totală opoziție, regulamentul UE dorește să interzică în mod expres orice posibilitate de a aplica un astfel de scor de credit social. 

Abordarea SUA, care a elaborat o strategie națională comprehensivă pentru AI,„The National Artificial Intelligence Initiative”, ai.gov dorește să accelereze cercetarea și dezvoltarea de sisteme AI în beneficiul economiei și al societății, punând la dispoziție investiții substanțiale în acest sens. SUA a susținut oficial perspectiva europeană a promovării AI-ului „de încredere” (trustworthy), termen enunțat pentru prima oară enunțat de un grup independent de experți europeni în elaborarea Orientărilor în materie de etică pentru o inteligență artificială fiabilă.„Ethics guidelines for trustworthy AI”, digital-strategy.ec.europa.eu Aceste orientări au evidențiat o serie de principii precum: supraveghere, robustețe tehnică și siguranță, confidențialitate și guvernanța datelor, transparență, diversitate și non-discriminare, bunăstare socială și responsabilitate. Ulterior enunțării lor inițial ca principii etice, aceste reguli au fost introduse drept obligații juridice pentru sistemele AI cu risc înalt, așa cum sunt ele categorisite de propunerea europeană de Regulament pentru AI.  

Există și alte foruri internaționale care sunt preocupate de reglementarea AI, printre care Consiliul Europei, care dorește să propună norme aplicabile în acest domeniu pentru toate statele sale membre, deci chiar mai mult de nivelul UE, care să se bazeze pe cele trei arii principale de interes ale organizației: drepturile omului, statul de drept și democrația. Cu un grup de lucru specializat,„CAHAI – Ad hoc Committee on Artificial Intelligence”, coe.int Consiliul Europei propune mai multe acțiuni pentru a stabili un cadru legal pentru AI.„Council of Europe and Artificial Intelligenc”, coe.int 

De asemenea, Organizația Tratatului Atlanticului de Nord (NATO) privește dintr-o perspectivă diferită elaborarea unor standarde privind AI,„NATO wants to set AI standards. If only its members agreed on the basics.”, politico.eu punând accent pe rolul tehnologiilor emergente în politicile de securitate și apărare. Nu în ultimul rând, Organizația pentru Cooperare și Dezvoltare Economică a propus un set de principii de bază pentru AI„OECD Principles on AI”, oecd.org care să conducă la îmbunătățirea condițiilor economice și sociale cu ajutorul tehnologiei.

În plan local, deși multe state au elaborat deja propriile strategii naționale privind aplicarea sistemelor AI,„OECD AI’s live repository of over 260 AI strategies & policies”, oecd.ai în România încă nu există propuneri oficiale. Strategia națională a României privind inteligența artificială este în lucru de câțiva ani, dar abia recent, odată cu înființarea noului Minister al Cercetării, Inovării și Digitalizării, s-a constituit un grup de lucru pentru AI.„Ministrul Ciprian Teleman: Schimbând paradigma de project management, în 2026 România va fi inteligentă digital”, marketwatch.ro De asemenea, urmează să fie disponibile și fonduri special alocate pentru dezvoltarea tehnologiilor emergente, inclusiv inteligența artificială, prin Planul Național de Redresare și Reziliență (PNRR).

Un moment-cheie pentru reglementarea AI

Inteligența artificială are un rol din ce în ce mai important în activitățile umane, în interacțiunile online și în luarea unor decizii care pot afecta în mod considerabil comportamentul uman. Ne aflăm într-un moment-cheie în care se trasează liniile directoare care vor ghida următoarele decade în ceea ce privește felul în care sistemele care utilizează AI, dezvoltate de companii private sau de state, vor trebui să se conformeze unor standarde legale și etice care să asigure respectul drepturilor și valorilor fundamentale. 

Aceste reguli vor trebui să creeze un echilibru între inovație și reglementare și să încurajeze contribuția tehnologiilor emergente la dezvoltarea economică și socială. Cum abordările sunt diferite la nivel global, este important ca această cursă pentru reglementarea AI să seteze cele mai bune măsuri, unele care vor revoluționa impactul acestei tehnologii în societate.



Text de

Cezara Panait

Este Head of Digital Policy în cadrul organizației Europuls – Centrul de Expertiză Europeană, unde coordonează activitatea privind politicile digitale și lucrează cu precădere pe dosare privind platformele online, automatizare și inteligența artificială.

TEHNOLOGIE|STUDIU

Românii s-au întors la birou. Ce spun datele de mobilitate despre obiceiurile din pandemie?

De
Românii au mers în parcuri mai mult decât înainte de pandemie și par să fi evitat transportul în comun.
TEHNOLOGIE|SCIENCE OF SPORT

Schimbă tehnologia VAR regulile fotbalului?

De
Sportul-rege se chinuie să împace avantajele arbitajului video (VAR) cu capcanele unor reguli care nu au fost menite să fie interpretate la sânge.
TEHNOLOGIE|TENDINȚE

Cât de mult contează colaborările dintre producătorii de telefoane și cei de camere foto?

De
Colaborarea dintre OnePlus și Hasselblad anunță că smartphone-urile se vor concentra tot mai mult pe fotografie (și video). După ce au ucis „săpunierele”, mobilele atacă acum piața amatorilor entuziaști.
CORONAVIRUS|TIPPING POINT

Tulpină nouă, alegeri, sărbători? Cum a fost învinsă India de coronavirus

De
320.000 de cazuri într-o zi. Sistemul sanitar din a doua cea mai populată țară a lumii e în colaps, după ce un al doilea val al pandemiei a venit prea târziu.