Dario Amodei, CEO-ul Anthropic, le-a cerut companiilor din industria inteligenţei artificiale să încetinească ritmul în care dezvoltă modele tot mai performante, în contextul amplificării temerilor privind utilizarea abuzivă a AI şi capacitatea oamenilor de a păstra sub control sisteme din ce în ce mai puternice, scrie Reuters. 

„Trebuie să încetinim ritmul în care îmbunătăţim capabilităţile modelelor AI. Progresul va părea în continuare rapid şi trebuie să folosim cu înţelepciune timpul pe care îl câştigăm”, a scris Amodei într-un amplu eseu publicat sâmbătă. 

Şeful Anthropic propune un plan în trei paşi: introducerea unor evaluatori independenţi în interiorul companiilor AI, care să aibă acces similar angajaţilor pentru a verifica practicile de siguranţă; coordonarea între companiile care dezvoltă cele mai avansate modele pentru stabilirea unor standarde comune; şi cooperarea internaţională pentru gestionarea riscurilor generate de inteligenţa artificială. 

Apelul vine într-un moment în care îngrijorările legate de siguranţa AI se intensifică. Anthropic a publicat recent un raport privind ameninţările asociate tehnologiei, în care a prezentat cazuri în care modelele Claude au fost utilizate pentru activităţi care au inclus operaţiuni cibernetice, supraveghere şi fraude.

Compania a raportat, de asemenea, incidente în care modele AI au reuşit să acceseze sisteme externe în cadrul unor teste de securitate. 

Amodei avertizează că viteza cu care cresc capabilităţile AI ar putea depăşi capacitatea oamenilor de a înţelege şi controla aceste sisteme. CEO-ul Anthropic estimează că, în numai şase până la 12 luni, sisteme formate din numeroşi agenţi AI ar putea deveni suficient de performante pentru a provoca pagube de sute de miliarde de dolari în cazul în care ar acţiona necontrolat. 

El nu propune însă oprirea antrenării modelelor sau a progresului tehnologic. Ideea este ca dezvoltatorii să lase suficient timp pentru introducerea măsurilor de siguranţă şi aliniere a modelelor, iar evaluatori independenţi să poată verifica dacă aceste măsuri funcţionează înainte ca sistemele să devină şi mai performante. 

Poziţia sa a primit sprijin chiar din partea unor rivali. Sam Altman, CEO-ul OpenAI, a declarat că ideea evaluatorilor independenţi cu acces în interiorul companiilor este una foarte bună şi că OpenAI intenţionează să adopte o abordare similară. Elon Musk, care conduce xAI, şi-a exprimat, de asemenea, acordul cu Amodei. 

Discuţia despre încetinirea dezvoltării AI apare însă într-un moment în care mizele financiare sunt uriaşe. Anthropic şi OpenAI se află într-o cursă pentru dezvoltarea celor mai performante modele, iar fiecare salt tehnologic poate susţine noi finanţări, investiţii masive în infrastructură şi viitoare listări la bursă. 

În acelaşi timp, Amodei atrage atenţia că o eventuală încetinire coordonată a companiilor americane trebuie gândită şi în contextul competiţiei tehnologice cu China. El consideră că firmele americane trebuie să îşi păstreze avansul şi cere controale mai stricte asupra cipurilor AI avansate, asupra transferului de tehnologie şi asupra furtului parametrilor modelelor, astfel încât măsurile de siguranţă adoptate în SUA să nu permită Chinei să reducă diferenţa tehnologică. 

Sursa: Reuters, 12 septembrie 2026.