Superinteligenţa artificială (ASI) este o formă ipotetică de inteligenţă artificială, dotată cu funcţii cognitive şi capacităţi de gândire mult mai avansate decât cele ale oricărei fiinţe umane. Această formă de AI încă nu există, deşi despre ea se discută de câţiva ani în lumea ştiinţifică şi de decenii în cea SF. În cât timp şi în ce condiţii ar putea aceasta să devină realitate?

În timp ce unii cred că ASI ar putea deveni realitate „în doar câteva mii de zile”, alţii sunt mai sceptici cu privire la dezvoltarea sa. Cu toate acestea, există îngrijorări şi chiar convingeri că superinteligenţa artificială reprezintă condamnarea la moarte a omenirii, motiv pentru care crearea sa ar trebui prevenită sau reglementată cât mai repede şi cât mai strict. Dar pentru ca apocalipsa minţilor electronice să vină, trebuie ca mai întâi agentul ei să existe. MIT Technology Review explică cât de departe suntem de ASI şi ce mai trebuie pentru ca aceasta să devină realitate. Imaginaţi-vă un sistem de sănătate alcătuit din mai mulţi agenţi AI: unul care se ocupă de evaluarea simptomelor, altul de programări, un al treilea de asigurări şi al patrulea de medicaţie şi farmacie.

Fiecare este expert în domeniul său. Însă toţi deţin cunoştinţe şi obiective proprii, distincte. În prezent, aceştia pot face schimb de date, dar nu sunt încă capabili să coordoneze efectiv îngrijirea pacientului fără ca un om să ia deciziile. „Inteligenţa există deja. Ceea ce lipseşte este ţesutul conjunctiv care transformă patru entităţi străine într-o singură echipă”, explică Vijoy Pandey, vicepreşedinte senior şi director general al Outshift by Cisco, un accelerator de tehnologii emergente. Acest „ţesut conjunctiv” provine din adăugarea unui strat semantic – numit de Outshift „Internet of Cognition” (Internetul Cogniţiei) – care permite agenţilor din domenii diferite să colaboreze şi, aspect crucial, să „gândească” împreună, împărtăşind intenţii, contexte şi procese de raţionament. Acest strat semantic se bazează pe un strat de conectivitate subiacent, numit Internet of Agents (Internetul Agenţilor), care permite agenţilor autonomi să se descopere reciproc, să-şi dovedească identitatea şi să facă schimb de mesaje între domenii diferite. Utilizate împreună, toate acestea fac posibil „următorul pas pe drumul către o superinteligenţă artificială distribuită”, explică Pandey.

Timp de ani de zile, industria AI s-a concentrat pe creştere. Scalarea pe verticală a dus la modele mai mari, antrenate pe volume mai mari de date şi cu o putere de calcul sporită. Acest lucru a generat capacităţi de raţionament care pot servi drept „creier” pentru agenţii AI, permiţându-le să perceapă, să raţioneze şi să acţioneze în medii digitale. Deşi scalarea pe verticală poate genera continuu agenţi tot mai capabili, pentru a permite rezolvarea problemelor prin intermediul agenţilor în sisteme, companii şi platforme diferite, următoarea direcţie a scalării trebuie să fie orizontala, susţine Pandey. Sistemele multi-agent sunt deja explorate în domenii precum ingineria software, descoperirea de medicamente şi simulările ştiinţifice, însă performanţele lor de până acum au fost dezamăgitoare. Un studiu indică o rată de eşec cuprinsă între 41% şi aproximativ 87% în urma evaluării a şapte sisteme multi-agent open-source. „Agenţii conectaţi gestionează bine acţiunile coordonate; preiau o sarcină a cărei formă le este familiară, o fragmentează şi o transmit mai departe”, explică Pandey. „Ceea ce nu pot face este să urmărească un obiectiv comun şi să raţioneze pentru a rezolva o problemă pentru care niciunul dintre ei nu a fost antrenat.” „Lacuna este de natură arhitecturală, nu ţine de modul de formulare a instrucţiunilor (prompting)”, adaugă Pandey. „Fără un nivel adecvat de coordonare, sistemele rudimentare cu mai mulţi agenţi pot avea performanţe mai slabe decât un singur agent. Saltul calitativ constă în capacitatea unei echipe de agenţi de a ajunge autonom la o soluţie pentru o problemă nouă, fără intervenţia umană care să asigure legătura dintre componente.”

Pentru a atinge acest obiectiv, Pandey afirmă că Outshift a creat un nivel de conectivitate numit AGNTCY, un proiect open-source aflat acum sub umbrela Linux Foundation. AGNTCY permite agenţilor din sisteme, companii şi platforme diferite să se identifice reciproc, să-şi dovedească identitatea şi să schimbe mesaje prin intermediul unor protocoale deschise şi standardizate. După cum explică Pandey, acest lucru permite avansarea tezei Internetului Cogniţiei. Se creează astfel un nivel semantic care le permite agenţilor să îşi alinieze obiectivele (partajarea intenţiei), să pună în comun cunoştinţele instituţionale şi memoria cumulată (partajarea contextului) şi să ia decizii colective bazate pe compromisuri (partajarea raţionamentelor). Pandey compară această evoluţie cu cea a oamenilor: „Timp de sute de mii de ani, oamenii au devenit mai inteligenţi la nivel individual, însă câştigurile intelectuale dispăreau odată cu dispariţia fiecărui individ care le dobândise”, explică el. „Situaţia s-a schimbat acum aproximativ 70.000 de ani, când oamenii au învăţat să-şi comunice intenţiile, să acumuleze cunoştinţe şi să raţioneze colectiv. Atunci indivizii izolaţi au devenit o civilizaţie.” „Agenţii se află în acelaşi punct de cotitură. Am creat genii din siliciu şi le-am oferit capacitatea de a acţiona autonom. Ceea ce le lipseşte este tocmai acel nivel care a permis oamenilor să treacă la acţiune colectivă”, spune el.

Următorul salt al AI nu mai înseamnă neapărat modele mai mari, ci agenţi care pot „gândi“ împreună. Industria s-a concentrat până acum pe scalarea verticală – mai multe date şi mai multă putere de calcul –, însă următoarea etapă ar putea fi scalarea orizontală: conectarea agenţilor din sisteme, companii şi platforme diferite, astfel încât să poată urmări un obiectiv comun şi să rezolve împreună probleme noi.

Primii paşi către superinteligenţa distribuită. Capacitatea agenţilor de a lucra în mod colectiv se bazează pe trei piloni ai arhitecturii tehnologice. Primul este intenţia comună prin protocoale de stare cognitivă. Protocoalele de stare cognitivă reprezintă „strângerea de mână” ce permite agenţilor să cadă de acord asupra unui obiectiv înainte de a acţiona şi, ulterior, să negocieze pentru atingerea acestuia. Outshift a creat un strat de coordonare open-source numit Mycelium, pe care organizaţiile îl pot replica şi utiliza pentru propriii agenţi. „Am constatat că grupurile nestructurate ajungeau la o decizie în aproximativ o treime din cazuri, analizând 14 scenarii”, afirmă Pandey, referindu-se la testele interne. „Un protocol de coordonare care obligă agenţii să declare un obiectiv, să semnaleze informaţiile lipsă şi să rezolve conflictele înainte de a acţiona a crescut această rată la 93%.” Al doilea este contextul comun prin infrastructura cognitivă (cognition fabric). Această infrastructură reprezintă o memorie instituţională partajată şi o reţea de comunicare ce permit acumularea şi dezvoltarea cunoştinţelor agenţilor în timp, în loc ca aceştia să se reseteze la fiecare sesiune. Acest strat de context, guvernat de politici, rezolvă problema „amneziei organizaţionale”, explică Pandey, asigurând o evoluţie ascendentă constantă a nivelului de bază de inteligenţă al sistemelor. Al treilea pilon este raţionamentul comun prin amplificatoare cognitive şi tehnologii de protecţie (guardrails). Pentru a facilita raţionamentul comun, pot fi utilizate simultan două tipuri de motoare cognitive. Amplificatoarele cognitive accelerează procesele de raţionament şi modelare partajate, în timp ce tehnologiile de protecţie (GAT – guardrail technologies) stabilesc cadre de securitate, control al costurilor şi conformitate. Oamenii contribuie activ la acest strat, luând decizii pe baza evaluărilor transmise de sistem (în loc să verifice rezultatele doar a posteriori). Partajarea capacităţilor cognitive în sistemele multiagent poate genera riscuri noi, precum delegări neintenţionate, atacuri de tip “prompt injection” (deturnarea modelului de limbaj) sau „otrăvirea” memoriei, ori apariţia unor agenţi cu privilegii excesive, având acces la permisiuni şi date mult peste necesităţile sarcinilor lor. Prin urmare, sunt necesare mecanisme de control specifice mediului de lucru pentru a preveni acţiunile sau consecinţele nedorite.

„Agenţii posedă caracteristici similare celor umane, dar operează la viteza şi scara specifice maşinilor”, spune Pandey. „Tot ceea ce am construit în ultimele două decenii — controlul accesului, gestionarea identităţii, conformitatea — a fost conceput fie pentru oameni, fie pentru maşini, nu pentru ambele categorii simultan.” CASA (Continuous Agent Semantic Authorization) — o implementare de referinţă open-source dezvoltată de Outshift — este o tehnologie de protecţie (GAT) menită să garanteze că acţiunile agenţilor rămân aliniate în siguranţă cu obiectivul iniţial al utilizatorului, printr-un proces de autorizare continuă. Acest lucru se realizează prin monitorizarea intenţiilor agentului şi verificarea fiecărei solicitări de utilizare a unui instrument în raport cu sarcina respectivă. În cazul unui sistem de asistenţă medicală, de exemplu, un agent căruia i se cere să rezume fişa unui pacient ar putea începe prin a interoga o întreagă bază de date. Acest lucru ar putea determina CASA să respingă apelul, deoarece solicitarea nu mai corespunde sarcinii pentru care agentul a fost autorizat. „Mecanismele actuale de control vizează un rol sau o sesiune, nu sarcina în sine; astfel, un agent căruia i s-a pus la dispoziţie un instrument îl poate folosi pentru orice”, explică Pandey. „În aproximativ 90% din cazuri, agentul nici măcar nu are posibilitatea de a confirma dacă deţine autorizaţia necesară pentru sarcina care i-a fost încredinţată.”

Atunci când extind orizontal capacităţile de inteligenţă la nivelul întregii companii, organizaţiile ar trebui să înceapă prin a experimenta cu un flux de lucru interfuncţional care implică trei sau patru echipe şi care, în prezent, necesită intervenţia umană pentru autorizarea transferurilor de responsabilitate între acestea, recomandă Pandey. „Implementaţi acest flux sub forma unui sistem restrâns, multiagent, pe o infrastructură deschisă şi interoperabilă, stabilind totodată un punct de referinţă măsurabil”, afirmă el. „Continuaţi să dezvoltaţi modele mai complexe, adăugaţi dimensiunea orizontală peste acestea şi modificaţi indicatorii de performanţă. Urmăriţi situaţiile în care informaţiile furnizate de un agent au îmbunătăţit activitatea unui alt agent – acesta este semnul că abordarea orizontală funcţionează.” Prin începerea experimentelor axate pe straturile de intenţie, context şi raţionament, organizaţiile pot obţine un avantaj competitiv. „Problemele sunt încă deschise, iar infrastructura este în curs de dezvoltare”, spune Pandey. „Acesta este momentul oportun pentru a o construi.”

Pentru senatorul american Bernie Sanders, acesta este momentul oportun pentru a propune legislaţie pentru frânarea dezvoltării inteligenţei artificiale avansate, cel puţin până la crearea unor instituţii guvernamentale de supraveghere în domeniu. Propunerea sa de reglementare a AI e una dintre cele mai agresive. „Avem de-a face cu ceva ce omenirea nu a mai văzut vreodată. Este, în mod clar, tehnologia cu cel mai mare potenţial de transformare din istoria lumii şi evoluează extrem de rapid”, a declarat Sanders. „În ceea ce priveşte inteligenţa artificială, aceasta a fost dezvoltată şi este promovată de un grup restrâns – un număr mic – dintre cei mai bogaţi oameni de pe planetă. Iar obiectivul lor principal este, pur şi simplu, să-şi sporească averea şi puterea.” Sanders este, după standardele americane, un socialist (social-democrat după standardele politicii europene).   

Diferenţa dintre mai mulţi agenţi AI şi o „inteligenţă colectivă“ ar putea sta în capacitatea lor de a împărtăşi trei lucruri: intenţia, contextul şi raţionamentul. Agenţii trebuie să poată conveni asupra obiectivului urmărit, să construiască o memorie comună şi să ia împreună decizii bazate pe compromisuri. Pandey compară această etapă cu momentul în care oamenii au început să acumuleze cunoştinţe şi să raţioneze colectiv, trecând de la indivizi izolaţi la civilizaţie.

Traducere şi adaptare: Bogdan Cojocaru