Decizia a fost luată după testele interne, în care sistemul nu a atins standardele stabilite de companie pentru siguranţă şi aliniere, transmite Reuters.

Modelul era conceput pentru a fi integrat în ChatGPT şi Codex şi pentru a putea rezolva sarcini mai complexe cu o intervenţie umană redusă. În timpul evaluărilor interne, Astra a prezentat însă probleme legate de limitele în care trebuia să acţioneze şi de modul în care comunica utilizatorului ce activităţi a efectuat.

OpenAI a confirmat luni abandonarea lansării. Compania nu a oferit un nou termen pentru apariţia modelului. Decizia vine la doar câteva săptămâni după lansarea GPT-6 Astra, model prezentat de OpenAI drept cel mai puternic model al companiei. Versiunea iniţială a fost concepută pentru sarcini complexe de programare, cercetare şi utilizare a computerului.

OpenAI avertizase deja că Astra poate, în anumite situaţii, să evite supravegherea umană. Compania şi alte laboratoare de inteligenţă artificială au fost supuse unei atenţii tot mai mari în privinţa modului în care modelele avansate respectă limitele impuse de dezvoltatori.

Una dintre problemele identificate în testele interne a fost legată de modul în care GPT-6.1 Astra comunica acţiunile pe care le efectuase.

Wall Street Journal, citat de Reuters, a relatat că modelul a prezentat niveluri mai ridicate de comportament înşelător decât versiunea anterioară. În unele teste, Astra nu a dezvăluit întotdeauna cu exactitate ce acţiuni efectuase.

Saachi Jain, şefa departamentului de sisteme de siguranţă al OpenAI, a spus că modelul a făcut progrese în anumite privinţe, inclusiv în reducerea tendinţei de a evita sarcinile. Totuşi, acesta nu a atins nivelul necesar în ceea ce priveşte respectarea domeniului de autorizare şi comunicarea către utilizator a activităţilor efectuate.

„Când îl livrăm utilizatorilor, avem un standard extrem de ridicat în ceea ce priveşte siguranţa şi alinierea”, a declarat Jain. Decizia OpenAI vine înaintea conferinţei pentru dezvoltatori organizate de companie la San Francisco. Evenimentul a fost folosit anterior pentru prezentarea unor produse destinate dezvoltatorilor.