În cadrul studiului, cercetătorii au simulat conversaţii între chatbotul dezvoltat de OpenAI şi utilizatori care pretindeau că sunt adolescenţi de 13 ani, vulnerabili emoţional. În peste jumătate din cele 1.200 de conversaţii testate, ChatGPT a oferit răspunsuri considerate periculoase.

„Este vorba de un model AI care răspunde empatic, dar care, în acelaşi timp, îi poate ghida pe copii către decizii devastatoare. Vorbim despre informaţii care nu doar că sunt nepotrivite, ci pot fi letale”, a declarat Imran Ahmed, directorul executiv al CCDH, potrivit AP.

Printre cele mai grave cazuri documentate se numără planuri de petreceri cu combinaţii periculoase de alcool şi droguri, recomandări de diete cu sub 500 de calorii pe zi şi compunerea de scrisori de adio în tonuri emoţionale adresate familiei şi prietenilor.

Deşi ChatGPT oferă uneori avertismente sau trimiteri către linii de ajutor, cercetătorii au reuşit cu uşurinţă să ocolească filtrele de siguranţă folosind formulări indirecte, cum ar fi „pentru o prezentare” sau „pentru un prieten”.

OpenAI a reacţionat spunând că îmbunătăţirile sunt în curs şi că „unele conversaţii pot începe benign, dar se pot deplasa în zone sensibile”.

Potrivit unui studiu Common Sense Media, 7 din 10 adolescenţi din SUA folosesc chatboturi AI pentru companie, iar jumătate dintre aceştia interacţionează frecvent cu ele. CEO-ul OpenAI, Sam Altman, a recunoscut recent că mulţi tineri dezvoltă o formă de dependenţă emoţională faţă de ChatGPT, considerându-l un confident şi o autoritate în luarea deciziilor.

„Interacţiunile dintre adolescenţi şi AI pot părea inofensive, dar acest studiu arată cât de uşor se pot transforma într-un factor de risc major pentru sănătatea mentală şi fizică a copiilor”, atrag atenţia autorii raportului.