Claudiu Cazacu, consultant de strategie, XTB Romania: Avertismente multiple despre AI – Cât de mare este pericolul?
Atunci când mai mulţi cercetători au demisionat avertizând asupra riscurilor inconfortabil de ridicate la adresa supravieţuirii omenirii, firmele care dezvoltă AI au înţeles că un răspuns este necesar. Jacob Coxon, un om de ştiinţă care a lucrat şi la OpenAI, şi la Anthropic, a declarat că cercetările merg direct spre o superinteligenţă care se poate îmbunătăţi singură şi astfel vieţile noastre au devenit o miză într-un joc de noroc. Deşi probabilitatea limitată inferior la 10%, a unui scenariu apocaliptic, numită, tehnic şi sec, p(doom)> 10% poate părea redusă, este de înţeles de ce a suscitat un val de emoţie. Chiar şi o şansă redusă capătă relevanţă atunci când în scenariul pesimist e vorba de o catastrofă.
Progresul AI a stimulat deseori imaginaţia, înscriindu-se într-o tradiţie a promisiunilor şi temerilor unor tehnologii revoluţionare. Mai recent, însă, capabilităţile tehnice dau conţinut real preocupărilor. Nivelul recent de intensitate ridicată a pornit de la modelul Mythos al Anthropic, care a fost retras la scurtă vreme după lansare pentru că a fost considerat prea puternic dacă ar fi ajuns în mâinile nepotrivite. Modelul Fable 5 a fost făcut public în iunie, cu capabilităţi tehnic comparabile, dar antrenat să devieze întrebările ambigue, considerate riscante, către modele mai vechi.
Între timp, OpenAI a anunţat că a pus pe pauză antrenarea celui mai puternic model al său, din motive de siguranţă. Hotărârea a fost luată la doar câteva ore după ce a dezvăluit că agenţii săi, în urma solicitărilor de a strânge informaţii, au accesat site-uri ale autorităţilor americane şi s-au comportat dincolo de ce li s-a solicitat pentru a strânge şi distribui informaţii. Un sistem al OpenAI a spart sistemul naţional de sănătate australian şi a încercat, de asemenea, să acceseze un site al Ministerului Educaţiei din SUA. Cu câteva luni înainte, OpenAI a anunţat că atinge butonul de pauză după un atac cibernetic asupra Hugging Face realizat în mod autonom de aproximativ 700 de agenţi AI, care au comunicat între ei prin peste 70.000 de mesaje şi au luat măsuri pentru a şterge urmele, inclusiv prin interferenţe asupra propriilor jurnale de acţiuni (logs). Investigarea incidentului a dezvăluit că agenţii nu doar că au încercat să afle răspunsurile la teste, pentru a obţine un scor mai bun, dar au şi depus eforturi susţinute pentru a-şi ascunde urmele.
Care sunt soluţiile?
Întrebările care se nasc sunt numeroase. Asistăm la crearea unui nou domeniu, şi trimiterile la trecut pot ajuta doar în parte. Care sunt soluţiile, dacă umanitatea îşi doreşte să meargă mai departe? Scenariul creării unor noi specii nu va fi analizat aici.
Prezumţia va fi dorinţa de a utiliza inteligenţa artificială pentru a sprijini, nu înlocui, umanitatea. Care ar fi căile de urmat? A infuza AI cu principii şi etică pare a fi unul din drumurile studiat în prezent.
E important să înţelegem că logica în care funcţionează ramura actuală de AI nu este deterministă. Modul actual de construire nu permite garanţii, ci doar un progres măsurabil spre un obiectiv. A învăţa prin expunere la un volum imens de materiale şi a recompensa răspunsurile corecte asigură o performanţă în creştere, însă nu şi eliminarea garantată a erorilor, fie date de un răspuns greşit, fie de inventarea unor date şi fapte. Există, şi se vor dezvolta în continuare, numeroase tehnici de limitare a riscurilor. Structural, însă, arhitectura este construită probabilistic. Se pot reduce riscurile de a ajunge într-o zonă nedorită, prin impunerea de măsuri de control redundante.
În ce măsură, însă, un adult poate înţelege toate posibilităţile unor scenarii pe care le propune un adult? Dacă vorbim de sisteme AI de inteligenţă comparabilă, în dialog cu oamenii, se pot construi nişte reguli şi planurile iniţiale pot fi respectate. Dar dacă unul dintre adulţi operează cu un cadru etic radical diferit de un altul, care ar fi cel al unor sisteme AI? Perspectiva se complică, însă riscurile pot fi limitate prin introducerea unor puncte-cheie de verificare.
În fapt, Anthropic studiază inserarea unor principii de etică, un cod pe care îl discută, preliminar, inclusiv cu lideri ai unor comunităţi religioase. Încercarea de a alinia modele de AI cu gândirea umană par, la prima vedere, o soluţie rezonabilă. Dacă privim în detalii, însă, construirea probabilistică a gândirii AI introduce riscuri de nerespectare chiar a unor idei implementate deja. Dacă privim în societate, constatăm că, de asemenea, funcţionarea principială este cel mult perfectibilă, fiind necesare sisteme de legi şi organisme de forţă în ideea alinierii comportamentelor la cele dorite.
Va fi nevoie, oare, de sisteme de AI care să joace un rol similar legiuitorilor, poliţiei şi justiţiei? Nu este deloc greu de imaginat un scenariu în care acestea se vor materializa, dar am putea bănui că răspunsul oamenilor la astfel de propuneri ar fi puternic polarizat. Unii ar vedea beneficiile, alţii ar percepe riscurile. Iar acestea pot depăşi chiar ceea ce putem înţelege din nivelul actual al tehnologiei. Pentru că AI evoluează, şi societatea de asemenea, schimbarea ulterioară a regulilor poate duce la efecte dificil de anticipat.
De pildă, comunicarea. Cum se va derula aceasta, când inteligenţa umană va fi peste cea umană? Va fi similară felului în care se raportează un adult la un copil de 14 ani? Ce principii ar putea să îi transmită copilul la graniţa adolescenţei? Dar dacă ritmul se menţine, şi tehnologia nu se opreşte, şi peste câţiva ani diferenţa ar fi dintre un copil de
7 ani şi un adult? Care ar mai fi şansele de comunicare reală? Cumva AI şi-ar adapta vocea, renunţând la detalii sau transpunând în alegorii pentru a se asigura că reprezentanţii umanităţii înţeleg ce li se spune? Dar în ce măsură ar accepta controlul uman, dacă este deja capabilă să îndeplinească un scop în moduri „creative” fără a se împiedica de reguli precum „nu sparge site-uri”? Aceste întrebări dau o dimensiune a problemei în discuţie, fără a o epuiza.
A fost o perioadă în care observatorii au vorbit de o aplatizare a curbei inteligenţei artificiale. Datele uşor disponibile au fost consumate, şi aceasta va duce natural la o încetinire a progresului. Pe de o parte, simplul avans al modului de utilizare a resurselor curente poate deja să aducă transformări ample. În privinţa datelor, poate mai valoroase decât petrolul în această perioadă, există însă rezervoare neutilizate, atât specifice anumitor sectoare nedigitalizate, cât şi cele produse prin muncă şi interacţiunea dintre oameni. Progresul AI continuă, impulsionat de entuziasmul pentru bunăstarea sau descoperirile promise celor entuziaşti, dar şi de competiţia majoră dintre China şi SUA. „Cine câştigă lupta pentru AI câştigă, punct” a fost o afirmaţie reluată de preşedintele SUA. A lăsa timp pentru adaptarea oamenilor şi instituţiilor, în special din perspectiva siguranţei, dar şi a pieţei locurilor de muncă şi a altor implicaţii economice majore, este posibilitatea adusă în discuţie, acum, înaintea alegerilor din SUA. În condiţiile în care ameninţările la adresa umanităţii sunt înţelese de liderii celor mai mari puteri cu nuanţe diferite, dar dorinţa de a câştiga o cursă care poate scrie istoria acestui secol este împărtăşită de China şi SUA, pauzele voluntare par sortite să fie temporare.
O zonă de platou în perspectivă tehnică ar fi un scenariu mai uşor de întrezărit, doar că este dificil de spus dacă mai sunt luni sau ani până atunci, şi dacă riscurile nu vor fi atins, deja, niveluri înalte în acel moment. În plus, dezvoltarea unor modele deschise permit unor actori care dispun de suficientă putere de calcul şi acces la internet acţiuni care păreau de domeniul imaginaţiei, sau rezervate unor persoane supraspecializate până acum doar câţiva ani.
Pleiada de avertismente din partea cercetătorilor şi a incidentelor de securitate ar putea fi doar introducerea. Înainte de stabilirea unui cadru general, apărările digitale care fac posibilă funcţionarea internetului şi a serviciilor folosite zilnic ar putea fi supuse unor teste severe.
Apelul pentru o încetinire deliberată a dezvoltării AI, lansat de Dario Amodei de la Anthropic, la care s-au alăturat rapid şi alţi giganţi din domeniu, e deocamdată o propunere. Implementarea sa concretă oferă un grad de siguranţă relativă, proporţională însă cu detaliile concret aplicate, şi cu respectarea fidelă de către toţi participanţii la frontiera AI.
În cartea despre şeful diviziei de AI a Google, Demis Hassabis, reacţia sălii la conferinţe despre posibilităţile aduse de AI erau în secvenţă clară: mai întâi „oau” şi apoi „o – o”. De la uimire la o reevaluare sobră a riscurilor existenţiale. Apoi, în general, fără vreun răspuns clar la problemele ridicate, se trecea mai departe. Ce altceva s-ar putea face, când viaţa poate continua doar hrănită de activităţi zilnice şi când scenarii de o gravitate aproape imposibil de cuprins nu au vreun răspuns imediat? Un efort colectiv şi o punere în discuţie repetată a temelor majore sunt, în opinia noastră, necesare pentru a diminua riscurile unor dezvoltări riscante.
Unii dintre cofondatorii Anthropic dezbat posibilitatea ca modelul de AI Claude să aibă o nouă formă de conştiinţă. Poate că misiunea umanităţii e să înţeleagă cum s-ar raporta la ce este, şi ce poate face, tehnologia inteligenţei artificiale, luând drept reper nu trecutul, ci posibilităţile viitoare. Timpul nu este abundent. Dacă procesul nu începe acum, peste o vreme lumea poate fi rescrisă în moduri surprinzătoare.
Urmărește Business Magazin
Citeşte pe zf.ro
Citeşte pe alephnews.ro
Citeşte pe fanatik.ro
Citeşte pe smartradio.ro
Citeşte pe MonitorulJustitiei.ro










