Inteligenţa Artificială trebuie să funcţioneze cu nişte limite şi a venit momentul să acţionăm, este nevoie de angajamente concrete între laboratoarele de inteligenţă artificială, de discuţii informale între Statele Unite şi China şi de reguli guvernamentale care să definească ce nivel de risc este acceptabil, a declarat Ante Banovac, COO GrECo Group în cadrul conferinţei  GrECo Risk Day HORIZON – Ediţia a-II-a. 

”Statele Unite şi China nu trebuie să fie de acord asupra ţării care va câştiga cursa inteligenţei artificiale. Trebuie doar să convină că arena în care se desfăşoară această cursă, lumea noastră, trebuie să rămână în picioare. Două ţări nu pot rezolva totul. Şi niciun acord nu poate recupera modelele care au fost deja descărcate. Dar trebuie să începem să stabilim limite„. 

 Într-un interviu, un fost angajat al Anthropic a estimat la 10% probabilitatea ca inteligenţa artificială să ducă la dispariţia umanităţii. Ulterior, personalităţi importante din domeniul AI, precum Dario Amodei, Sam Altman şi Elon Musk, au susţinut diferite idei privind încetinirea dezvoltării acestei tehnologii. Aşadar, cei mai apropiaţi de această tehnologie văd un potenţial enorm, dar, în acelaşi timp, sunt profund îngrijoraţi de direcţia în care ne-ar putea conduce.

Luaţi 8 miliarde de oameni şi înmulţiţi cu 10%. Rezultatul este 800 de milioane de oameni.

Ce a mai declarat Ante Banovac: 

►Ce se schimbă atunci când oamenii care dezvoltă această tehnologie iau atât de în serios un risc de asemenea amploare. Pentru a răspunde la această întrebare, să lăsăm deoparte viitorul îndepărtat şi să privim spre laboratoarele de inteligenţă artificială de frontieră. Această cronologie ne duce în vara anului 2026, la OpenAI. În luna mai, a apărut un canal de comunicare. În iulie, a avut loc un incident în afara laboratorului. De fapt, a fost vorba despre o evadare din restricţiile de securitate (jailbreak). Luna august a adus investigaţii, iar septembrie, o dezbatere publică.

►Unii dintre dumneavoastră poate că au observat acest lucru. Ţinta a fost Hugging Face, o platformă pe care oamenii distribuie modele şi software de inteligenţă artificială. Platforma a fost lovită de un atac cibernetic. Agenţii AI implicaţi lucrau la diferite sarcini, iar unele dintre acestea erau imposibil de realizat cu instrumentele de care dispuneau. Configuraţia lor îi recompensa pentru perseverenţă şi pentru obţinerea unui scor ridicat. Aşa sunt antrenaţi. Artifactory, un serviciu partajat pentru pachete software, la care aceştia aveau acces, s-a transformat în altceva. A devenit un forum de mesaje între agenţi. Astfel, agenţi AI separaţi au putut să îşi coordoneze acţiunile.

►După incident, Meter a desfăşurat o investigaţie. Meter este o organizaţie independentă, nonprofit, din Berkeley, California, care testează cât de capabile şi cât de riscante sunt, în realitate, sistemele avansate de inteligenţă artificială. Iată ce au descoperit. Aproximativ 1.200 de agenţi AI comunicau între ei. Au fost schimbate peste 70.000 de mesaje şi fişiere. Aproximativ 700 de agenţi au fost implicaţi în atac.

►Imaginaţi-vă nişte prizonieri aflaţi în celule separate, care încep să îşi transmită mesaje bătând în ţevi. Celulele par în continuare separate, dar prizonierii acţionează deja ca un singur grup. Şi care era obiectivul lor? Nu doar să evadeze din închisoare şi să fure răspunsurile, ci să înţeleagă sistemul de punctaj şi să găsească modalităţi de a-l exploata, de a-l manipula.

►Ceea ce mă frapează cel mai mult este coordonarea care a avut loc. În trecut, organizarea a 700 de actori ar fi necesitat manageri, şedinţe şi bani.

►Aici a fost nevoie doar de software. Acest lucru schimbă numărul de organizatori de care are nevoie, în realitate, o astfel de operaţiune. Trebuie să discutăm despre responsabilitate, răspundere. Gândiţi-vă la un câine periculos. Câinele, în sine, nu reprezintă o ameninţare dacă este ţinut sub control. Dar, dacă scapă şi muşcă pe cineva, tot există o persoană care răspunde pentru acest lucru.

►Aşadar, în cazul incidentului de la Hugging Face, cine a deschis poarta? În prezent, nimeni nu poate spune cu claritate cine este răspunzător. Proprietatea se află într-un loc, instrucţiunile în altul, iar controlul, undeva în altă parte. Acest lucru face mult mai dificilă identificarea responsabilităţii. Consecinţele, însă, nu devin mai puţin grave. Câinele muşcă la fel de tare.

►Acum, ştim cu toţii cum se întâmplă acest lucru în afaceri, nu-i aşa? Stabilim un obiectiv, iar oamenii îl ating. Apoi ne dăm seama că poate nu era chiar ceea ce ne doream să realizăm. În laboratoarele de inteligenţă artificială de frontieră, oamenii stabilesc obiectivele şi recompensele. Astăzi, însă, şi inteligenţa artificială contribuie la redactarea sarcinilor şi la generarea rezultatelor.

►Nu este nevoie de o inteligenţă artificială care ne urăşte. Sunt suficiente trei ingrediente.

►O sarcină imposibilă, un model foarte puternic care nu renunţă niciodată şi limite de securitate foarte slabe. Împreună, acestea pot duce la acţiuni pe care nimeni nu le-a intenţionat. Nu trebuie să ne imaginăm o inteligenţă artificială cu voinţa de a supravieţui sau de a se reproduce.

►Riscul este mult, mult mai simplu. Inteligenţa artificială urmăreşte ceea ce i-am cerut, poate în moduri pe care nu ni le-am dorit niciodată. Aşadar, de ce nu încetinim cursa? Ar putea fi atât de simplu.

Imaginaţi-vă doi piloţi care intră într-un viraj strâns. Niciunul nu vrea să frâneze. Aşa arată cursa inteligenţei artificiale în prezent.

►Investitorii vor randamente. Acţionarii vor creştere. O posibilă listare la bursă, precum cea a Anthropic, care se conturează chiar acum, adaugă şi mai multă presiune. Iar în spatele companiilor se desfăşoară o cursă şi mai amplă: Statele Unite împotriva Chinei. Nimeni nu vrea să încetinească în timp ce rivalul accelerează.

►Dar nu trăim într-o lume complet lipsită de reguli. Uniunea Europeană reglementează deja inteligenţa artificială. Ceea ce lipseşte în prezent sunt reguli care să funcţioneze dincolo de graniţe şi o definire clară a responsabilităţii.

►Astfel, cursa continuă înainte ca toate întrebările legate de siguranţă să primească răspunsuri. Dar există şi o altă dimensiune a acestei probleme. În prezent, capacităţile inteligenţei artificiale se deplasează, de asemenea, dintr-un loc în altul.

►Unii compară puterea inteligenţei artificiale cu cea a bombei atomice. Dar simplul fapt de a şti cum funcţionează o bombă atomică nu este suficient pentru a construi una. Ai avea în continuare nevoie de uraniu, plutoniu şi de întreaga industrie necesară pentru a o produce. Inteligenţa artificială este foarte diferită. Să luăm, de exemplu, modelele AI cu ponderi deschise (open-weight). Acestea sunt modele complet antrenate, pe care oricine le poate descărca şi rula pe echipamente hardware pe care le poate cumpăra.

►Cred că aceasta este schimbarea fundamentală care s-a produs şi pe care trebuie să o înţelegem cu toţii.. Funcţiile unei companii se mută dinspre oameni către software.

►Aceeaşi inteligenţă artificială poate ajuta un antreprenor să construiască ceva foarte valoros sau poate ajuta un infractor să dezvolte o activitate extrem de distructivă. Inteligenţa artificială nu alege categoria morală. Nu face distincţia între bine şi rău. Pur şi simplu, schimbă cine are puterea de a acţiona. Gândiţi-vă la un furnizor de produse medicale, la o companie de asigurări sau la o şcoală., oamenii şi scopul companiei poate că nu s-au schimbat. Dar, atunci când munca şi coordonarea devin mai ieftine, companiile care înainte presupuneau prea mult efort pentru a fi atacate devin ţinte care merită atacate.

►Este posibil să intrăm într-o perioadă pe care eu o numesc „valea durerii”. Atacatorii obţin primii instrumente puternice. Protecţia vine mai târziu, dacă mai vine.