Inteligenţa artificială generalistă folosită de profesori pentru pregătirea lecţiilor ridică riscuri majore de dezinformare, mai ales la discipline sensibile precum istoria sau religia. Tot mai multe state dezvoltă soluţii AI dedicate educaţiei, integrate în programe şcolare şi bazate pe informaţii verificate, pentru a limita aceste riscuri, explică Andreea Nistor, board member Edit AI, education changemaker şi policy maker.

Motoarele generaliste sunt utilizate pentru structurarea lecţiilor, sintetizarea informaţiilor sau redactarea conţinutului, însă dependenţa de internetul larg ridică probleme de acurateţe şi control al informaţiilor predate elevilor. Într-un sistem educaţional bazat pe programe şcolare clare şi pe rigoare factuală, riscul de halucinaţii şi dezinformare devine o vulnerabilitate reală.

„A folosi soluţii generaliste de inteligenţă artificială ca să-ţi pregăteşti lecţiile în calitate de profesor nu e lucru ideal. Motoarele generaliste de inteligenţă artificială îşi iau orice informaţie de pe net.” a declarat Andreea Nistor la ZF Live, emisiune realizată cu sprijinul Orange Business.

Problema devine critică în cazul disciplinelor unde informaţia trebuie validată istoric sau ştiinţific, iar contextul este esenţial pentru înţelegerea corectă a subiectului.

Profesorii care pregătesc lecţii despre teme sensibile riscă să preia informaţii incomplete sau incorecte din surse nefiltrate.

„Eu sunt astăzi o profesoară de istorie şi aş vrea să predau mâine ceva legat de pogrom sau ce s-a întâmplat cu evreii sau cu romii în România sau orice alte informaţii factuale sau lucruri legate de religie şi de orice alt subiect. Şansa ca eu să găsesc informaţii corecte şi complete pe internetul larg, de unde motoarele astea îşi iau informaţie, e foarte mică atunci când vorbim despre profesori şi despre învăţare.” a mai spus Andreea Nistor la ZF Live.

Profesorii trebuie să predea conţinut validat şi adaptat programei şcolare, nu informaţii generate automat din interogări generale.

„Avem nevoie ca ei să predea un conţinut care face parte deja din programa şcolară, adică să aibă un areal un pic mai limitat şi mai precis, să reduci nivelul de halucinare, că nu poţi să înveţi pe copii şi să le predai orice ţi-a rezultat dintr-un inquiry pe care îl dai.” mai adaugă aceasta.

În acest context, direcţia globală se schimbă. Sistemele de educaţie şi furnizorii de tehnologie dezvoltă instrumente AI specializate pentru profesori, integrate în platforme educaţionale controlate şi bazate pe conţinut verificat, adaptat programei şcolare.

„Majoritatea ţărilor lumii au început să introducă soluţii de inteligenţă artificială special destinate profesorilor, pentru ca ei să poată să le folosească zi de zi la clasă.”, explică Andreea Nistor.

Riscul dezinformării obligă şcolile să caute instrumente sigure şi valide, iar companiile de tehnologie să dezvolte platforme AI controlate şi adaptate curriculei. Tranziţia de la motoarele generaliste la soluţii specializate devine astfel esenţială pentru păstrarea calităţii actului didactic.