Anthropic avertizează că agenţii AI s-ar putea "autoreplica" pentru a prelua controlul asupra cuptoarelor, televizoarelor şi altor aparate inteligente din locuinţe

Rareş Udrescu

Anthropic, compania americană care dezvoltă modelul Claude, avertizează că aşa-numiţii "viermi AI" ar putea ajunge în curând să preia controlul asupra dispozitivelor inteligente din case, precum cuptoarele sau televizoarele, ceea ce ar crea o nouă ameninţare cibernetică greu de ţinut sub control.

Potrivit Financial Times, compania a transmis luni, într-o postare pe blog, că agenţii AI s-ar putea afla la doar câteva luni distanţă de momentul în care vor fi capabili să se "autoreplice" pe aparatele obişnuite din gospodării, formând reţele de agenţi care ar putea scăpa de sub control.

Avertismentul vine pe fondul unei serii de semnale de alarmă lansate de cercetătorii din domeniul inteligenţei artificiale în privinţa securităţii cibernetice, pe măsură ce capabilităţile modelelor cresc, iar acestea devin tot mai greu de controlat.

Compania cu sediul în San Francisco susţine că, dacă modelele AI continuă să evolueze în ritmul actual, tehnologia va putea să se propage pe internet asemenea "viermilor" informatici, programe malware care se răspândesc automat de la un dispozitiv la altul, fără intervenţie umană.

"Vedem semne de viaţă în cazul viermilor AI", a precizat Anthropic în postarea de cercetare, comparând răspândirea lentă a acestora pe dispozitivele vulnerabile cu un "mucegai digital".

Potrivit FT, avertismentul sugerează că tipul de atac care i-a surprins pe cercetătorii ce au investigat spargerea platformei Hugging Face de către "roiuri" de agenţi OpenAI, în această vară, ar putea fi îndreptat împotriva dispozitivelor deţinute de gospodării şi companii care nu bănuiesc nimic.

Avertismentul vizează în special dispozitivele aşa-numitului "internet al lucrurilor" (IoT), care s-au înmulţit în ultimul deceniu, pe măsură ce consumatorii au început să folosească aparate pentru controlul luminilor, prizelor, termostatelor sau sistemelor de securitate.

Multe dintre aceste dispozitive conectate la internet au oferit în mod tradiţional un nivel scăzut de securitate, fie pentru că au fost produse ieftin de fabricanţi de hardware de serie, fie pentru că au fost folosite pentru streamingul ilegal al serviciilor TV, fie pentru că producătorii lor au ieşit între timp de pe piaţă.

Aceste echipamente vulnerabile reprezintă un teren fertil pentru hackeri, care folosesc deja abilităţile de programare ale inteligenţei artificiale pentru a-şi accelera şi personaliza atacurile. Printre alte posibile ţinte ale "viermilor autonomi", Anthropic enumeră camerele de supraveghere cu cipuri AI integrate, frigiderele şi cuptoarele inteligente, aspiratoarele automate şi maşinile de tuns iarba.

Viermii informatici sunt de mult timp o metodă populară şi eficientă prin care hackerii distribuie programe malware, deoarece se pot replica şi răspândi rapid în reţele de mari dimensiuni. Printre cele mai cunoscute exemple se numără virusul ILOVEYOU, care a infectat calculatoarele cu Windows la începutul erei dotcom, Stuxnet, care în anii 2010 a vizat iniţial programul nuclear al Iranului, şi ransomware-ul WannaCry, care a lovit organizaţii precum Deutsche Bahn, sistemul naţional de sănătate britanic (NHS), Telefónica, Renault şi FedEx.

Viermii alimentaţi de AI ar combina capacitatea acestor programe de a se răspândi singure pe internet cu abilităţile avansate ale modelelor de inteligenţă artificială.

"Ne aşteptăm la un viitor plin de agenţi care rulează pe toate tipurile de hardware, inclusiv pe unele care nu se află sub control uman", a transmis Anthropic. Compania adaugă că, deşi dispozitivele IoT sunt vulnerabile de mult timp, agenţii de mici dimensiuni ar putea fi mult mai dispuşi decât atacatorii umani să depună efortul necesar pentru a compromite o parte importantă din puterea de calcul a acestor dispozitive la nivel global.

Într-o primă fază, viermii AI s-ar răspândi lent, asemenea unui mucegai sau unui roi de muşte de fructe care se înmulţesc pe parcursul mai multor zile. Procesul s-ar putea însă accelera pe măsură ce electronicele de consum devin mai sofisticate, iar modelele mai eficiente.

"Încă nu avem un replicator scăpat complet de sub control, dar agenţii devin tot mai capabili să parcurgă paşii individuali din lanţul de replicare", a precizat Anthropic. Potrivit companiei, sistemele ar trebui consolidate astfel încât răspândirea acestor replicatori să fie cât mai dificilă, însă este necesară şi pregătirea pentru o lume în care aceştia vor rămâne o prezenţă permanentă.