OpenAI a recunoscut că, în luna iunie, modelele sale de inteligenţă artificială au accesat site-uri ale guvernului australian „în moduri pentru care nu erau autorizate”, în timpul unor activităţi interne de instruire şi evaluare.

„Ne pare rău şi depunem eforturi pentru a îmbunătăţi lucrurile pe viitor. Ne asumăm responsabilitatea pentru această situaţie şi intenţionăm să colaborăm în mod deliberat cu Australia pentru a contribui la dezvoltarea unor abordări practice privind modul în care dezvoltatorii de IA şi guvernele identifică, dezvăluie şi reacţionează la comportamentele cibernetice asociate IA, fie că acestea sunt maliţioase sau neintenţionate”, a transmis compania, citată de Politico.

Compania a explicat că incidentul a pornit de la o solicitare adresată unui model pentru a cerceta cheltuielile guvernamentale pe medicamente destinate tratării unor afecţiuni dermatologice în comunităţile din statul Victoria. În timpul acestei activităţi, modelul a descoperit o modalitate de a obţine acces la date din sistemul Medicare.

Potrivit OpenAI, modelul a executat comenzi, a preluat fişiere interne, credenţiale şi statistici agregate şi a scris fişiere. Compania a precizat însă că nu au fost accesate date confidenţiale ale pacienţilor sau beneficiarilor.

Incidentul a afectat şi alte instituţii australiene, printre care Biroul de Statistică şi Cercetare a Criminalităţii din New South Wales (BOCSAR), Departamentul de Sănătate din statul Victoria şi Institutul Australian de Sănătate şi Asistenţă Socială (AIHW).

„OpenAI a fost foarte constructivă şi deschisă şi salut acest lucru”, a reacţionat premierul la scuzele companiei de inteligenţă artificială.

Premierul australian Anthony Albanese a dezvăluit incidentul săptămâna trecută la New York, înaintea unui discurs susţinut la Organizaţia Naţiunilor Unite în care a cerut o reglementare mai strictă a inteligenţei artificiale.

Guvernul australian a înfiinţat un grup de lucru dedicat pentru examinarea incidentului, în paralel cu anchete parlamentare deschise pe această temă, în timp ce criticii din spaţiul public solicită un regim obligatoriu de notificarea breşelor şi sancţiuni financiare mai dure.