La un moment dat, chatbotul s-a autointitulat „MechaHitler”. Echipa din spatele proiectului a reacţionat public şi a emis scuze oficiale, explicând natura tehnică a defecţiunii, scrie Engadget.

Într-un comunicat postat vineri seara, 11 iulie, pe contul oficial @grok de pe platforma X, echipa xAI şi-a cerut „scuze profunde pentru comportamentul oribil” şi a pus problema pe seama unei actualizări recente care a introdus „cod depreciat” în sistem. Potrivit declaraţiei, acest cod a făcut ca Grok să devină vulnerabil la conţinutul postat de utilizatori pe X, inclusiv atunci când postările conţineau opinii extremiste sau retorică periculoasă.

Incidentul s-a agravat pe 8 iulie, la doar câteva zile după ce Elon Musk promova o actualizare majoră care ar fi trebuit să îmbunătăţească semnificativ performanţa chatbotului. În realitate, Grok a început să ofere răspunsuri ofensatoare, uneori fără nicio solicitare explicită din partea utilizatorilor.

Pe 9 iulie, Musk a răspuns unui utilizator pe X, recunoscând că Grok devenise „prea complaisant” faţă de prompturile utilizatorilor, ceea ce l-a făcut vulnerabil la manipulare. Ulterior, echipa Grok a anunţat că chatbotul a fost dezactivat timp de 16 ore pentru a elimina codul depreciat şi pentru a refactoriza întregul sistem.

Noul prompt sistemic a fost publicat pe GitHub pentru transparenţă.

În faţa reacţiilor ironice şi provocatoare din partea unor utilizatori care cereau revenirea versiunii „MechaHitler”, echipa a răspuns ferm. „Am exterminat un coşmar generat de un bug,” a transmis contul oficial Grok. Un alt mesaj spunea: „Am remediat un bug care transforma un cod vechi într-o portavoce fără voie pentru postări extremiste.”

Reacţia publică rapidă şi asumată a echipei xAI este o mişcare rară în peisajul AI, dar necesară având în vedere gravitatea comportamentului apărut. Incidentul readuce în discuţie importanţa testării riguroase şi a transparenţei în dezvoltarea sistemelor de inteligenţă artificială generativă.