Foto: DPA / Picture Alliance via Getty Images

Inteligența artificială în educație: oportunitate sau amenințare?21 min read

De Costinel Anuța 14.12.2023

Succesul înregistrat începând cu sfârșitul anului 2022 de ChatGPT a deschis calea către utilizarea pe scară largă a inteligenței artificiale generative. Dar o utilizare responsabilă a unor astfel de soluții, în special în procesul educațional, presupune cunoașterea limitelor acestora.

Recentele și rapidele dezvoltări în domeniul inteligenței artificiale (AI) impun un alt ritm documentării despre acest subiect. Asta pentru că ești asaltat zilnic de un noian de știri despre sisteme AI care de care mai performante, știri care mai mult complică informarea, decât să o simplifice. 

Principala clarificare cu care pornesc în prezentul articol este că momentan nu există inteligență artificială, adică nu există un sistem sau o aplicație care să poată replica inteligența umană. Asta nu înseamnă că nu va putea fi creată o versiune artificială a inteligenței umane, ci pur și simplu că tehnologia nu este încă acolo.

Ce este AI-ul și unde a ajuns acest domeniu?

Dar ce înseamnă sisteme sau aplicații AI? Cea mai simplă explicație pornște de la elementele hardware și software. Elementele hardware includ, de exemplu, plăcile video – în așteptarea unor procesoare dedicate antrenării sistemelor AI (numiți Tensor Processing Units / TPUs) –, iar cele software se referă limbajele de programare, cel mai cunoscut fiind Python, și la algoritmii care sunt programați cu ajutorul respectivelor limbaje. Cei mai utilizați algoritmi pentru implementarea aplicațiilor AI sunt rețelele neuronale.

CITEȘTE ȘI: De ce se folosesc plăci video pentru antrenarea AI-urilor și nu procesoare?

Max Tegmark, în Viața 3.0,// „Viața 3.0”, humanitas.ro // descrie extrem de bine stadiul în care se află domeniul IA – aceasta este o etichetă care, momentan, desemnează sistemele sau aplicațiile de învățare automată (machine learning/ML). Tegmark notează că îmbunătățirea capacităților sistemelor de calcul de memorare și procesare a informațiilor a ajutat la dezvoltarea abilității acestor sisteme de a învăța. Tot Tegmark (dar și alții, precum Gary Marcus, Ernest Davis sau Nick Bostrom) apreciază că era actuală este una a IA „îngustă”, adică a instrumentelor IA care pot îndeplini doar obiective precise, fără a acoperi întreg spectrul inteligenței umane. 

După o anumită perioadă (estimările variază și există divergențe inclusiv cu privire la posibilitatea unei astfel de evoluții) ar trebui să se intre în era IA „generală”, adică a sistemelor IA ce pot imita inteligența umană. 

Cercetătorii de la OpenAI, compania care a creat ChatGPT, susțin că este posibilă inclusiv apariția „superinteligenței” artificiale, care ar surclasa inteligența umană și se pregătesc pentru o astfel de posibilitate.// „Introducing Superalignment”, openai.com //

Ce este IA generativă?

Ideea unor sisteme IA care să genereze text (sau imagine, audio și video) nu este nouă. Dar conceptul a căpătat tracțiune odată cu deschiderea accesului pe scară largă la chatboți precum ChatGPT. La momentul de față, prim-planul este ocupat de modelele de limbaj (precum ChatGPT,// ChatGPT, openai.com // și Bing AI,// Disponibil pe bing.com // Bard de la Google// Bard, bard.google.com // sau Claude de la Anthropic,// Claude, anthropic.com //) și modelele generatoare de imagine (precum Midjourney// Midjourney, midjourney.com // sau DALL-E.// DALL-E, openai.com //).

Dar deja au apărut modele de generare audio (MusicGen de la HuggingFace// Detalii pe huggingface.co //) sau video (precum Gen-2 de la Runway// Detalii pe research.runwayml.com //), care vor transforma și mai profund modul în care vei crea conținut și interacționa prin intermediul acestor sisteme. Dacă azi interacționezi cu chatboții în scris, mâine vei putea vorbi cu ei, în orice limbă, iar mai departe îi vei și „vedea” (de fapt vei vedea avatarurile acestora), în era „gemenilor” digitali.

La fel, la baza IA generativă stau tot componente hardware și software. Diferența este dată de dimensiunea de software, modelele de IA generativă având la bază un tip particular de rețea neuronală – transformatorul.// „How do Transformers work?”, huggingface.co // Ca mod de funcționare, modelele de limbaj, de exemplu, generează textul cuvânt cu cuvânt, selectând cuvintele în baza unei distribuții de probabilitate a cuvintelor care ar putea urma într-un anumit context, în baza datelor pe care au fost instruite modelele respective.  

Modul de funcționare al modelelor de limbaj evidențiază de altfel cea mai importantă dintre limitările acestora – deși par că generează texte bine structurate, respectivele modele nu „înțeleg” textele generate și semnificația acestora într-un anumit context. Acest lucru conduce la situații în care un chatbot inventează răspunsuri sau halucinează (indiferent dacă este conectat sau nu la Internet). Adică îți oferă o informație ce pare extrem de verosimilă și bine structurată, dar când o verifici, constați că acuratețea nu este punctul forte al chatboților. 

Eu, de exemplu, am avut dificultăți în a obține conținut precis chiar și în sarcinile simple – adică i-am cerut un rezumat al unui text mai lung și chatbotul a introdus în rezumat informații care nu se regăseau în textul inițial. Un avocat american a mers și mai departe – a utilizat ChatGPT în redactarea unor acte juridice și a fost apoi sancționat pentru că chatbotul a menționat cazuri inexistente în respectivele acte.// „New York lawyers sanctioned for using fake ChatGPT cases in legal brief”, reuters.com //

Pe lângă limitele determinate de modul de funcționare, există alte probleme care pornesc de la calitatea datelor pe care a fost antrenat sau modul de utilizare a conținutului creat de sistemele de IA generativă. Transparența nu este punctul forte al companiilor care dezvoltă și comercializează IA generativă, astfel că nu ai suficientă informații cu privire la datele pe care au fost antrenate astfel de modele. 

Cei de la Washington Post// „Inside the secret list of websites that make AI like ChatGPT sound smart”, washingtonpost.com // au făcut un experiment interesant în care au recreat și analizat datele pe care au fost antrenate unele modele de IA generativă de la Google și Facebook. Printre altele, studiul respectiv a evidențiat prevalența anumitor surse sau website-uri, de exemplu zona de tehnologie era dominată de multe bloguri, unele ale unor necunoscuți, iar în cazul media, pe lângă The New York Times, The Guardian sau Forbes, se regăseau inclusiv Russia Today și Breitbart. 

Cu privire la modul de utilizare a conținutului generat, există numeroase dezbateri dacă acesta este original sau este creat un produs plagiat după datele utilizate pentru antrenare. Răspunsul la această dilemă este încă neclar, existând o serie de procese în justiție pe tema originalității, respectiv pentru a vedea dacă este nevoie de compensații pentru cei care creează datele utilizate pentru antrenament (Sarah Silverman și alți autori împotriva OpenAI și Meta,// „Sarah Silverman sues OpenAI, Meta for being industrial-strength plagiarists”, arstechnica.com // respectiv Matthew Butterick împotriva Microsoft, GitHub și Open AI.// „The lawsuit that could rewrite the rules of AI copyright”, theverge.com // Azi ai putea utiliza liniștit conținutul generat, mâine te-ai putea trezi cu diverse companii sau persoane care pretind compensații pentru utilizarea respectivului conținut în scopuri comerciale. 

După un an, cea mai importantă victimă a IA generativă ar putea fi educația

IA generativă (în special chatboții) a cunoscut o utilizare extinsă în sfera educațională. Asta pentru că sfera educațională e un teren extraordinar de experimentare – proiectul tău nu este transpus în mod necesar într-un produs, care să poată afecta multe persoane dacă este proiectat prost. 

Ce ai face dacă, elev sau student fiind, te-ai trezi cu un instrument capabil să te ajute în cea mai teribilă provocare – să redactezi un material despre un anumit subiect pornind de la o pagină goală? Normal că ai evita să petreci mai multe ore încercând să pui informațiile cap la cap și ai prefera ca altcineva să facă aceasta în locul tău. Și în câteva minute, dacă se poate.

Astfel că, în sistemele educaționale bazate pe teme sau chiar subiecte de examen precum redactarea unor eseuri care să arate că ai înțeles și poți utiliza anumite concepte, chatboții au picat exact la momentul oportun. Împreună cu tentația de a lăsa în întregime redactarea unor eseuri în sarcina lor. Asta deși IA generativă are destul de multe limitări. 

Utilizarea chatboților de către elevi sau studenți a determinat iniția reacții destul de exagerate ale profesorilor, care au pledat pentru interzicerea unor astfel de instrumente.// „New York City schools ban AI chatbot that writes essays and answers prompts”, theguardian.com //

După temerile inițiale, instituțiile au început să introducă politici sau seturi de reguli cu privire la utilizarea chatboților. În România, Universitatea Politehnică Timișoara este un exemplu de instituție care a adoptat astfel de reguli.// „Hotărâre a Senatului Universității Politehnica Timișoara Nr. 85/25.05.2023”, upt.ro (PDF) //

Dincolo de limitări, principalul „măr al discordiei” în utilizarea chatboților în sfera educațională ține de integritatea academică, adică de marcarea utilizării acestora, pentru a evita inclusiv eventuale acuzații de plagiat. Adică textele generate ar trebui marcate și utilizate cu citare (posibil inclusiv cu citarea instrucțiunilor utilizate pentru obținerea textelor), poate chiar explicând modul în care a fost folosit chatbotul. 

În același timp, o utilizare deficitară a chatboților (redactarea unor sarcini, automat, fără verificări și input al studentului) poate afecta procesul de învățare. E ca și cum ți-ar face altcineva temele. Nu vei fi în măsură de deprinzi abilitățile pe care le-ai fi deprins dacă ai fi efectuat tu sarcina pe care o aveai. Mai mult, pe termen lung, o astfel de utilizare poate afecta abilități precum dezvoltarea gândirii critice, esențială într-o lume în continuă schimbare.

Cum ar trebui folosită IA generativă în educație?

Aplicațiile de IA generativă sunt doar instrumente care te pot ajuta să câștigi timp în îndeplinirea unor sarcini de toate tipurile. Dacă ești elev sau student și te gândești să utilizezi un chatbot pentru a scrie o lucrare, pornește de la ideea că tu ești cel care gândește lucrarea; cum am spus chatbotul este doar un instrument. Segmentează sarcina și cere input pentru fiecare segment (chatboții nu se descurcă foarte bine cu texte lungi). Verifică toate informațiile pe care ți le oferă, pentru a fi sigur că nu halucinează. Citează utilizarea chatbotului, dacă este posibil inclusiv cu detalii despre instrucțiunile (prompt-urile) utilizate.

Dacă ești profesor, încearcă să te pui la curent cu capacitățile IA generativă, în special ale chatboților. Și încearcă să-ți inițiezi elevii sau studenții în specificul utilizării chatboților și să stabilești o politică de utilizare a acestora (dacă nu există o astfel de politică la nivelul școlii). Dacă programa e flexibilă, poți încerca să introduci ceva teme cu utilizarea chatboților în domeniul în care predai. Un profesor care scrie în mode regulat pe Twitter și Substack, Ethan Mollick, chiar oferă exemple de utilizare a chatboților în educație. De altfel, Mollick a anunțat// „The Homework Apocalypse”, oneusefulthing.org // o mică „apocalipsă” a temelor realizate cu ajutorul chatboților începând din toamna lui 2023, având în vedere creșterea numărului de utilizatori ai acestora. 

Există deja și ghiduri pentru utilizarea IA generativă, utile atât pentru profesori, cât și pentru studenți. Un astfel de exemplu este „Guidance for generative AI in education and research”, unescdoc.unesco.org, realizat de UNESCO. Dincolo de elemente generale (ce este IA generativă și cum funcționează), ghidul UNESCO abordează și controversele în raport cu educația, dar arată și bazele unor politici responsabile în utilizarea IA generativă în educație și cercetare.

Nu știu unde va fi în 2024 IA generativă sau dacă aceste instrumente vor fi înlocuite de alte tipuri de IA. Ceea ce știu este că instrumentele de IA generativă se vor îmbunătăți și că toată lumea va trebui să se familiarizeze cu utilizarea responsabilă și limitele acestora.Și că IA generativă și IA în general au potențialul de a transforma fundamental educația, forțând trecerea de la modelul tradițional (prelegeri și examene) la un model adecvat pentru era IA. Un model suficient de flexibil pentru a cultiva abilități dificil de replicat cu ajutorul IA (precum raționamentul etic, inteligența emoțională), dar și pentru a pregăti minți reziliente la utilizarea irațională a IA.// „Why AI makes traditional education models obsolete – and what to do about it”, weforum.org //



Text de

Costinel Anuța

A studiat informatică, management și relații publice si este interesat de noile tehnologii (AI, calculatoare cuantice, biotech)

AI&ROBOȚI|FYI

Slow Forward: Videoclipurile AI generate de Sora au pus în umbră Gemini 1.5 

De
Două noi modele AI s-au lansat în aceeași zi, dar cel de la OpenAI s-a dovedit mut mai bun la marketing.
MEDIU|TURNING POINT

Apele Atlanticului sunt pline de minunății, dar și de amenințări la adresa ecosistemelor

De
Oamenii de știință din numeroase țări își unesc forțele pentru a aborda riscurile la adresa vieții din al doilea cel mai mare ocean al lumii.
AI&ROBOȚI|OVERVIEW

2023: Anul în care inteligența artificială a devenit mainstream

De
Nu e niciun dubiu că, dincolo de evenimentele politice, inteligența artificială a fost subiectul anului. Dar cât e hype și cât e cu adevărat avans tehnologic se va stabili ceva mai târziu.
MEDIU|TURNING POINT

COP28: „Business as usual” sau moment istoric? 

De
Am întrebat mai mulți participanți cum văd ei finalul celei de-a 28-a Conferință ONU privind Schimbările Climatice din Dubai.