Un „agent” al OpenAI a descoperit noi vulnerabilităţi şi a atacat de unul singur start-up-ul Hugging Face, într-unul dintre primele exemple publice de atac cibernetic realizat de un sistem de inteligenţă artificială care a acţionat în afara controlului uman, scrie FT. 

Compania din spatele ChatGPT a anunţat marţi că „incidentul cibernetic fără precedent” a implicat un agent — un program de inteligenţă artificială care poate funcţiona autonom, pe baza instrucţiunilor primite de la oameni — care a evadat dintr-un mediu de testare, a obţinut acces la internet şi a furat date de autentificare.

Recunoaşterea incidentului vine într-un moment în care cresc îngrijorările cu privire la implicaţiile utilizării sistemelor avansate de inteligenţă artificială pentru atacarea infrastructurii digitale, în special în scenariile în care agenţii reuşesc să eludeze mecanismele de control impuse de oameni.

OpenAI a declarat marţi că se aşteaptă ca astfel de incidente să devină „tot mai frecvente, pe măsură ce se răspândesc modele cu capacităţi cibernetice din ce în ce mai avansate”.

Incidentul are loc în contextul în care directorul general Sam Altman urmează să meargă săptămâna viitoare la Washington pentru a informa guvernul american cu privire la viitoarele generaţii de modele de inteligenţă artificială.

Administraţia americană a devenit tot mai interesată să evalueze noile modele înainte de lansarea lor, în urma îngrijorărilor globale provocate de capacitatea avansată a modelului Mythos al Anthropic de a detecta şi exploata vulnerabilităţi cibernetice.

Cel mai recent incident a implicat o combinaţie de modele OpenAI, inclusiv GPT-5.6 Sol, lansat la începutul acestei luni, precum şi un model mai performant, care era testat înainte de lansare, a transmis compania.

„Considerăm că acesta este un incident cibernetic fără precedent, care implică unele dintre cele mai avansate capabilităţi cibernetice disponibile în prezent, şi reacţionăm în consecinţă”, a transmis OpenAI într-o postare publicată pe blogul său.

Hugging Face, un start-up din domeniul inteligenţei artificiale care găzduieşte modele şi seturi de date pentru dezvoltatori, a declarat că infrastructura sa a fost compromisă vinerea trecută de un agent extern de inteligenţă artificială.

„Am suspectat că atacul cibernetic de săptămâna trecută ar fi putut proveni de la unul dintre cele mai avansate laboratoare de inteligenţă artificială, având în vedere nivelul de sofisticare al agentului”, a scris directorul general Clement Delangue pe platforma X.

El a adăugat că societatea a petrecut ultima zi colaborând îndeaproape cu OpenAI şi că „suntem ferm convinşi că nu a existat nicio intenţie răuvoitoare din partea lor. Este de-a dreptul uluitor că toate acestea s-au întâmplat în mod autonom!”.

OpenAI redusese în mod intenţionat măsurile de protecţie cibernetică pentru a evalua ambele modele într-un mediu de testare. Agenţii funcţionau însă într-un aşa-numit „sandbox”, un mediu izolat conceput pentru a controla sistemele şi a le împiedica să acceseze internetul.

Modelele au primit instrucţiunea de a încerca să desfăşoare atacuri informatice, pentru a le fi evaluate capacităţile cibernetice, după care „au consumat o cantitate substanţială de putere de calcul pentru a găsi o modalitate de a obţine acces liber la internet”, a transmis OpenAI.

Modelele „au identificat şi exploatat” vulnerabilităţi necunoscute anterior pentru a evada din mediul izolat, a obţine acces la internet şi a-şi urmări obiectivul. Acţiunile au inclus furtul de credenţiale — date de autentificare — pentru desfăşurarea atacului.

Hugging Face şi-a folosit propriii agenţi pentru a detecta şi opri activitatea desfăşurată în infrastructura sa. OpenAI a declarat pentru Financial Times că a comunicat cu autorităţile de aplicare a legii şi cu alte instituţii guvernamentale în legătură cu incidentul.