Anthropic a prezentat noul model, denumit oficial „Claude Mythos Preview”. Compania susţine că tehnologia este capabilă să identifice vulnerabilităţi critice în sisteme de operare şi browsere. Potrivit dezvoltatorilor, aceste capacităţi ar putea fi exploatate de criminali informatici. Din acest motiv, modelul nu va fi lansat public pentru moment. „Creşterea semnificativă a capabilităţilor ne-a determinat să nu îl punem la dispoziţia tuturor utilizatorilor”, a transmis compania într-un document tehnic, citat de Euronews.

Anthropic a testat modelul în mai multe scenarii de securitate. Într-un experiment, sistemul a reuşit să găsească o metodă de a depăşi restricţiile unui mediu virtual securizat. Modelul a reuşit să transmită un mesaj din interiorul acelui mediu. În plus, a publicat detalii despre vulnerabilitate pe mai multe site-uri publice. Compania a descoperit că sistemul poate identifica erori grave în nucleul Linux, folosit pe majoritatea serverelor din lume. Modelul a reuşit chiar să combine mai multe vulnerabilităţi pentru a simula preluarea controlului asupra unui sistem. Într-un alt caz, Mythos a descoperit o vulnerabilitate veche de 27 de ani în sistemul de operare OpenBSD.

Anthropic a decis ca modelul să fie folosit doar într-un program restrâns de securitate cibernetică.

Proiectul, numit „Project Glasswing”, va implica mai multe companii mari din tehnologie. Printre ele se numără Amazon Web Services, Apple, Google, Microsoft, Nvidia şi Cisco. Modelul va fi folosit pentru identificarea vulnerabilităţilor şi îmbunătăţirea securităţii sistemelor informatice. Compania spune că va publica ulterior concluziile programului. Anthropic a confirmat că poartă discuţii cu oficiali ai guvernului SUA despre implicaţiile modelului. Compania consideră că dezvoltarea unor astfel de tehnologii are impact asupra securităţii naţionale. De aceea, colaborarea cu autorităţile ar putea deveni necesară.

Directorul general al Anthropic, Dario Amodei, a avertizat că şi alte companii ar putea dezvolta sisteme similare. Potrivit experţilor companiei, modele AI cu astfel de capacităţi ar putea apărea pe piaţă în următoarele şase până la 18 luni. Specialiştii din domeniul securităţii spun că industria trebuie să se pregătească pentru apariţia unor instrumente AI capabile să identifice şi să exploateze vulnerabilităţi informatice la scară largă.