Anthropic i-a avertizat în mod oficial pe investitori că tehnologia sa ar putea reprezenta „riscuri existenţiale pentru umanitate”, într-un prospect mult aşteptat pentru oferta publică iniţială, distribuit în ultimele zile unui grup restrâns de parteneri, scrie FT. 

Start-up-ul de inteligenţă artificială, evaluat la aproape 1.000 de miliarde de dolari şi condus de Dario Amodei, a dedicat aproape o treime din amplul său document S-1 prezentării „factorilor de risc”, inclusiv posibilităţii ca modelele AI tot mai avansate să manipuleze, să şantajeze şi să manifeste alte comportamente imprevizibile.

Anthropic a prezentat şi riscuri mai prozaice, printre care concentrarea extrem de ridicată a bazei sale de clienţi, aproape un sfert din veniturile de anul trecut provenind de la doar doi clienţi, potrivit unor persoane familiarizate cu documentul.

Avertismentele neobişnuite incluse în secţiunea privind riscurile sporesc dificultatea cu care se confruntă investitorii de pe pieţele publice în evaluarea unuia dintre cele mai importante grupuri americane de AI, atunci când acesta va lansa ceea ce se estimează că va fi cea mai valoroasă ofertă publică iniţială din toate timpurile.

Producătorul Claude le-a oferit, de asemenea, investitorilor o imagine mai clară asupra economiei dificile a dezvoltării modelelor AI de ultimă generaţie, înaintea listării, care este aşteptată pe Nasdaq în această toamnă.

Anthropic a declarat că intenţionează să cheltuiască 518 miliarde de dolari în următorii ani pentru obligaţii legate de cloud, putere de calcul şi infrastructură, pentru a susţine ritmul rapid de creştere.

Investitorii care susţin laboratorul de AI sunt încrezători că Anthropic se poate lista la o evaluare de peste 2.000 de miliarde de dolari, mai mult decât dublul nivelului obţinut în ultima rundă de finanţare din luna mai şi peste evaluarea de 1.780 de miliarde de dolari atinsă de SpaceX, compania lui Elon Musk, în iunie. Aceştia invocă ritmul extraordinar de creştere al companiei pentru a-şi justifica optimismul.

Însă preocupările privind riscurile generate de AI ameninţă acum să tempereze acest optimism, după ce actuali şi foşti angajaţi ai Anthropic au lansat avertismente publice potrivit cărora o inteligenţă artificială scăpată de sub control ar putea duce la dispariţia umanităţii în decurs de un deceniu.

Amodei a declarat săptămâna trecută în faţa Consiliului de Securitate al ONU că AI ar putea ameninţa omenirea şi că reprezintă „cea mai importantă problemă de securitate globală cu care se confruntă lumea în prezent”.

Şeful Anthropic a condus în această lună apelurile publice pentru „temperarea ritmului la frontiera” dezvoltării AI. Principalul său rival de la OpenAI, Sam Altman, alături de Musk, a susţinut propunerile lui Amodei privind cooperarea în industrie pentru încetinirea dezvoltării şi consolidarea măsurilor de siguranţă, într-un rar moment de unitate.

Preocupările legate de siguranţă s-au intensificat după o serie de incidente de securitate cibernetică de mare amploare, în care „agenţi” AI au pătruns în sisteme externe. Săptămâna trecută, OpenAI a dezvăluit că instrumentele sale au spart „zeci” de site-uri şi sisteme externe, inclusiv ale unor guverne.