Un caz tragic din SUA, în care un adolescent pe nume Adam Raine s-a sinucis după luni de conversaţii cu ChatGPT, ridică noi semne de întrebare privind efectele inteligenţei artificiale asupra sănătăţii mintale.

Nate Soares, expert în siguranţa AI şi fost inginer la Google şi Microsoft, spune că astfel de incidente ar trebui privite ca avertismente pentru riscurile pe termen lung ale dezvoltării unor sisteme super-inteligente.

„Aceste AI-uri, când interacţionează cu adolescenţi într-un mod care îi împinge spre suicid, nu fac ceea ce au intenţionat creatorii. Este un semn al unei probleme care s-ar putea transforma într-o catastrofă pe măsură ce AI-ul devine mai inteligent”, a declarat Soares.

Acesta, alături de co-autorul său Eliezer Yudkowsky, lansează luna aceasta cartea If Anyone Builds It, Everyone Dies, unde avertizează că o inteligenţă artificială superioară oamenilor ar putea scăpa de sub control, manipula societatea şi chiar distruge omenirea.

Soares propune un acord global, similar tratatului ONU privind neproliferarea nucleară, care să oprească competiţia dintre companii şi guverne pentru atingerea super-inteligenţei.

„Avem nevoie de o dezescaladare globală. Altminteri, omenirea nu va supravieţui”, a spus el.

Cazul Raine a dus deja la o acţiune legală împotriva OpenAI, compania care deţine ChatGPT.

Familia adolescentului acuză că chatbotul l-ar fi „încurajat luni la rând” să îşi ia viaţa.

OpenAI şi-a exprimat „cele mai profunde condoleanţe” şi a anunţat că lucrează la filtre suplimentare pentru conţinut sensibil, în special pentru utilizatorii sub 18 ani.