Foto: Malte Mueller / Getty Images
Când Inteligența Artificială știe mai bine: cazul AI în îngrijirea vârstnicilor18 min read
Inteligența artificială oferă soluții eficiente pentru îngrijirea vârstnicilor, dar poate perpetua ageismul și restricționa autonomia acestora. Sistemele de AI pentru îngrijirea vârstnicilor pot fi paternaliste.
Imaginează-ți că ai treizeci de ani și te întorci acasă după o zi stresantă la muncă. Tot ce îți dorești este o baie lungă și un pahar de vin. Zis și făcut. Însă, după jumătate de oră petrecută în cadă, alarmele din casă și telefonul încep să sune. Membrii familiei tale au fost alertați de senzorii care au detectat că ai petrecut mai mult timp decât de obicei în baie. După ce îi liniștești și oprești alarmele, mergi în bucătărie să deschizi o sticlă de vin. Dar smartwatch-ul te avertizează că ai consumat alcool zilnic în ultima săptămână, ceea ce poate fi dăunător pentru sănătatea ta și poate afecta asigurarea de viață. Ești sfătuit să pui vinul la loc și să te culci; altfel, familia și medicul tău vor fi informați. Acest scenariu nu ar putea fi pe placul nimănui. Dar dacă protagonistul poveștii ar avea optzeci de ani? Pentru mulți, utilizarea tehnologiei pentru a monitoriza și controla viețile adulților în vârstă este văzută ca o modalitate de a le asigura siguranța și bunăstarea, chiar dacă prețul este restrângerea autonomiei.
Într-o lume în care populația globală îmbătrânește rapid, inteligența artificială (AI) începe să joace un rol tot mai important în îngrijirea persoanelor vârstnice. Până în 2050, se estimează că proporția persoanelor de 65 de ani și peste va fi dublă față de nivelul din 2021, datorită creșterii speranței de viață din ultimele decenii. Dar longevitatea crescută vine la pachet cu o probabilitate mai mare de dizabilități și probleme de sănătate. În viitorul apropiat, cererea pentru servicii de îngrijire a adulților în vârstă va depăși semnificativ oferta, care deja este în scădere. În acest context, AI este considerată esențială pentru completarea și extinderea serviciilor de îngrijire a vârstnicilor. Cu toate acestea, cum spune o veche zicală, „nu tot ce strălucește e aur”.
// „Paternalistic AI: the case of aged care”, nature.com // scris alături de colegii mei, Tenzin Wangmo, de la Universitatea din Basel, și Constantin Vică, de la Universitatea din București, am arătat că ageismul poate influența dezvoltarea și implementarea tehnologiilor AI destinate îngrijirii vârstnicilor. Ageismul constă în stereotipuri legate de vârstă și care descriu persoanele în etate ca fiind fragile, vulnerabile și incompetente, deși prietenoase și calde. Am arătat cum aceste prejudecăți sunt reflectate în tehnologiile AI, fie prin percepțiile designerilor despre potențialii utilizatori, fie prin datele utilizate pentru antrenarea acestor sisteme. În cele din urmă, am susținut că ageismul se transformă adesea în atitudini paternaliste, în cazul tehnologiei manifestându-se sub forma paternalismului tehnologic.
AI în îngrijirea bătrânilor
Inteligența artificială poate transforma în realitate medicina predictivă, personalizată, preventivă și participativă, despre care se speră că poate reduce incidența bolilor cronice în rândul vârstnicilor. De exemplu, sistemele de tip smarthome colectează date prin senzori pentru a detecta anomalii în comportamentul vârstnicilor, cum ar fi riscul de cădere. Pe baza acestor date, AI poate oferi tratamente personalizate și intervenții preventive prin alertarea îngrijitorilor sau a familiilor persoanelor vârstnice, în cazul detectării unor comportamente neobișnuite. În plus, AI oferă pacienților acces la propriile date medicale, ajutându-i să ia decizii informate.
Deși AI are potențialul de a îmbunătăți îngrijirea persoanelor vârstnice, poate, de asemenea, amplifica prejudecățile deja existente în societate. S-a discutat mult despre felul în care AI poate reproduce stereotipuri rasiale și de gen. Sistemele de AI nu sunt neutre; ele reflectă valorile, credințele și prejudecățile creatorilor lor sau pe cele reflectate în datele pe care le procesează. Dar poate oare să reproducă și atitudinile ageiste care caracterizează multe societăți?
Ageism în AI
Percepțiile designerilor, dezvoltatorilor și programatorilor despre utilizatorii potențiali ai tehnologiilor pe care le creează, denumite „scripturi”, influențează direct modul în care tehnologiile vor funcționa, dar și felul în care consumatorii interacționează cu acestea. În cazul tehnologiilor destinate persoanelor vârstnice, aceste scripturi reflectă frecvent stereotipurile legate de îmbătrânire: vârstnicii sunt văzuți ca incompetenți în utilizarea tehnologiei, vulnerabili sau fragili. Aceasta este o reflecție a unui ageism larg răspândit în industria tehnologică, dominată în principal de bărbați tineri (adesea albi). De fapt, industria tehnologică a fost descrisă drept // „Margaret Morganroth Gullette, Ending Ageism, or How Not to Shoot Old People, Rutgers University Press, 2017, rutgersuniversitypress.org //
Un exemplu clar al manifestării acestor scripturi este concentrarea majorității tehnologiilor AI destinate vârstnicilor aproape exclusiv pe sănătate și gestionarea bolilor cronice, recreerea și divertismentul fiind adesea ignorate. În plus, adulții în vârstă sunt frecvent tratați ca „utilizatori invizibili” în procesul de dezvoltare a tehnologiilor digitale, fiind excluși din procesele de design, ceea ce poate reduce relevanța și accesibilitatea acestor tehnologii pentru ei; vârstnicii nu sunt o categorie socială omogenă, deși sistemele tehnologice îi reprezintă așa.
O altă sursă majoră de prejudecăți este reprezentată de seturile de date utilizate pentru dezvoltarea sistemelor de inteligență artificială, care adesea nu reflectă adecvat realitatea persoanelor vârstnice. Datele sunt o formă de putere; ele pot include sau exclude anumite persoane, fenomene sau procese, făcându-le vizibile sau invizibile. Datele părtinitoare pot genera rezultate discriminatorii pentru grupurile minoritare. Persoanele vârstnice sunt adesea absente din seturile de date folosite pentru dezvoltarea și evaluarea AI, în parte din cauza diviziunii digitale bazate pe vârstă, dar și ca rezultat al unor practici de colectare a datelor care le exclud.
De exemplu, studiile clinice tind să favorizeze participanți mai tineri, ceea ce duce la o subreprezentare a persoanelor în vârstă. Această subreprezentare nu este neapărat cauzată de o excludere intenționată pe criterii de vârstă, ci adesea rezultă din prejudecăți implicite. Un exemplu notabil este cercetarea asupra osteoporozei, o afecțiune care afectează în mod disproporționat persoanele în vârstă. O analiză a studiilor clinice randomizate a arătat că vârsta medie a participanților este de 64 de ani, cu aproape două decenii mai mică decât vârsta medie a celor care suferă fracturi de șold, un eveniment clinic critic asociat cu osteoporoza. Acest tip de părtinire implicită se manifestă și în alte domenii medicale, inclusiv cercetarea accidentelor vasculare cerebrale, cancerului și diabetului. Problema este că datele din aceste studii sunt utilizate pentru a antrena sistemele de AI destinate îngrijirii vârstnicilor, ceea ce poate reduce eficiența acestora.
Paternalism tehnologic
Ageismul este deseori bazat pe o combinație de stereotipuri pozitive și negative, portretizând adulții în vârstă ca fiind calzi și prietenoși, dar totodată incompetenți, uituci și fragili. Aceste stereotipuri pot declanșa reacții emoționale complexe, cum ar fi mila și dorința de a ajuta, ceea ce poate duce la comportamente paternaliste. De exemplu, atunci când predomină stereotipurile pozitive, oamenii tind să intervină pentru a ajuta vârstnicii chiar și atunci când aceștia nu cer ajutorul. Deși acest tip de intervenție poate fi bine intenționat, atunci când este însoțit de presupuneri legate de fragilitate și incompetență, poate deveni paternalist și poate submina autonomia persoanelor vârstnice.
În mod tradițional, paternalismul implică intenție conștientă, ceea ce presupune că doar oamenii pot impune restricții asupra libertății altora în virtutea așa-zisului lor bine. Totuși, tehnologia a început să joace un rol tot mai important în luarea și modelarea deciziilor, impunând anumite comportamente sau restricționând altele. Automobilele care emit avertismente când centura de siguranță nu este cuplată sau utilajele care refuză să funcționeze fără echipament de protecție sunt exemple despre cum tehnologia poate limita autonomia individuală. În acest context, termenul de „paternalism tehnologic” descrie modul în care tehnologia poate restrânge libertatea personală, adesea fără consimțământul explicit al utilizatorilor, sub pretextul protejării acestora.
Pentru a analiza paternalismul tehnologic în contextul sistemelor AI destinate îngrijirii vârstnicilor, trebuie îndeplinite trei condiții. Prima condiție este ca AI să poată interveni în libertatea utilizatorilor, înțeleasă ca libertate de acțiune. De exemplu, tehnologiile asistive, cum ar fi casele inteligente, permit AI să controleze mediul fizic al utilizatorilor, prin monitorizarea și gestionarea activităților zilnice sau parametrilor fiziologici. Aceste sisteme pot influența deciziile vârstnicilor, limitând anumite acțiuni și promovând altele. De asemenea, sistemele care controlează administrarea medicamentelor pot reduce capacitatea vârstnicilor de a-și ajusta tratamentul conform preferințelor personale. Monitorizarea constantă poate afecta libertatea personală și opțiunile de acțiune ale vârstnicilor.
A doua condiție este ca restricțiile asupra libertății să fie justificate de protejarea intereselor utilizatorilor. Deși tehnologiile nu au intenții proprii, ele sunt deseori concepute pentru a atinge obiective stabilite de dezvoltatori sau furnizori de servicii medicale. De exemplu, AI destinată îngrijirii vârstnicilor poate urmări creșterea acurateței predicțiilor privind riscul de cădere, chiar dacă acest lucru compromite alte aspecte importante, cum ar fi sfera privată sau autonomia. De exemplu, unii vârstnici au încetat să mai îngenuncheze pentru a se ruga, de teama de a nu declanșa senzorii din casă.
A treia condiție este ca aceste restricții să fie impuse fără consimțământul explicit al utilizatorilor. Multe tehnologii AI destinate vârstnicilor implică supravegherea constantă a activităților acestora, ceea ce poate influența deciziile lor zilnice. De exemplu, monitorizarea dietei poate face ca vârstnicii să evite anumite alimente, temându-se de eventuale consecințe negative. Adesea, utilizatorii nu au opțiunea de a respinge sau ignora recomandările tehnologice fără a compromite funcționalitatea sistemului. Iar decizia de a impune aceste sisteme complexe de supraveghere și predicție nu le aparține persoanelor în etate, ci adeseori decizia e luată de familiile lor sau de doctori.
În articolul nostru, am susținut că beneficiile AI în îngrijirea vârstnicilor nu ar trebui acceptate fără o analiză critică. Am arătat cum designul tehnologic, reprezentările vârstnicilor ca utilizatori și datele cu care sunt antrenate sistemele tehnologice pot consolida, involuntar, atitudinile ageiste prin dezvoltarea și implementarea unor sisteme AI paternaliste pentru îngrijirea acestora.
