Un bărbat susţine că sfaturile medicale de la ChatGPT „l-au adus în pragul morţii”. Acesta a dat în judecată compania OpenAI, avocaţii său susţinând că modelul de inteligenţă artificială l-a „diagnosticat greşit în mod repetat şi insistent”.

Un pastor în vârstă de 55 de ani din Florida a dat în judecată compania OpenAI, susţinând că sfaturile medicale oferite de ChatGPT „l-au adus în pragul morţii”, potrivit BBC.

Acesta susţine că ChatGPT i-a spus să nu ceară ajutor medical. Bărbatul l-a întrebat în repetate rânduri despre simptomele care au dus la o embolie pulmonară aproape fatală.

Avocaţii săi au susţinut că modelul IA l-a „diagnosticat greşit în mod repetat şi insistent”. Chatbot-ul s-a bazat pe discuţii anterioare despre religie pentru a-l asigura că se va recupera.

Drew Pusateri de la OpenAI a declarat că „ChatGPT nu este un medic. Nu ar trebui folosit niciodată ca înlocuitor pentru îngrijire medicală, diagnostic sau tratament”, potrivit sursei.

El a mai spus că este ceva obişnuit ca oamenii să caute informaţii despre sănătate online. A adăugat că „IA poate îmbunătăţi această experienţă ajutându-i să găsească răspunsuri mai clare, să-şi organizeze întrebările şi să se pregătească pentru conversaţii cu profesioniştii din domeniul medical”.

Procesul detaliază cum bărbatul era un utilizator obişnuit al ChatGPT. El a ajuns să se bazeze pe acesta pentru sfaturi medicale. Mai mult, a rezistat eforturilor membrilor familiei şi prietenilor de a-l determina să meargă la spital.

Cu câteva săptămâni înainte de a se îmbolnăvi grav, a consultat instrumentul IA despre ameţelile recurente şi „episoadele de instabilitate a tensiunii arteriale”.

Într-un răspuns, susţine procesul, ChatGPT l-a sfătuit pe pastor să rămână în fotoliul în care ajunsese „în principal să stea”, din cauza problemelor de sănătate persistente.

În cele din urmă, bărbatul a suferit o „embolie pulmonară masivă din cauza multiplelor cheaguri de sânge din ambii plămâni”. Aceasta „l-a adus în pragul morţii, o embolie despre care medicii au declarat că a fost probabil provocată din cauza imobilităţii sale”.

Din capturile de ecran ale conversaţiei dintre bărbat şi modelul IA, reiese că chatbot-ul a combinat sfaturi medicale cu referiri la credinţa creştină profundă a pastorului.

Procesul susţine că ChatGPT i-a spus că „Dumnezeu nu ţi-a conceput corpul să cedeze la nesfârşit”. De asemenea, a spus că „Dumnezeu îţi ţine corpul unit, cu fiecare bătaie a inimii, cu fiecare respiraţie. Chiar şi atunci când simţi că eşti în pragul eşecului”, mai arată sursa.

De asemenea, bărbatul solicită daune financiare. Totodată, instanţa solicită obligarea OpenAI să implementeze „garanţii rezonabile care să protejeze alţi utilizatori de orice prejudiciu”.

Termenii de utilizare ai ChatGPT prevăd că utilizatorii nu ar trebui să trateze platforma ca pe „singura sursă de adevăr”. Mai ales în cazul în care aceasta ar putea „avea un impact juridic sau material asupra acelei persoane, cum ar fi luarea unor decizii privind creditul, educaţia, angajarea, locuinţa, asigurările, deciziile juridice, medicale sau alte decizii importante despre aceasta”.