Cercetătorul-şef al companiei Anthropic, care a creat Claude, Jared Kaplan, face unele predicţii sumbre despre viitorul umanităţii în relaţia cu inteligenţa artificială, scrie un articol publicat pe platforma futurism.com. 

În viziunea sa, alegerea ne aparţine. Deocamdată, soarta noastră este încă, în mare măsură, în mâinile noastre, spune Kaplan — cu excepţia cazului în care decidem să predăm, metaforic vorbind, ştafeta maşinilor.

Un astfel de moment se apropie rapid, afirmă el într-un interviu recent acordat publicaţiei The Guardian. Până în 2030 — sau chiar mai devreme, începând cu 2027 — omenirea va trebui să decidă dacă îşi asumă „riscul suprem” de a permite modelelor de inteligenţă artificială să se antreneze singure. Explozia de inteligenţă care ar urma ar putea ridica tehnologia la un nou nivel, dând naştere unei aşa-numite inteligenţe artificiale generale (AGI), capabilă să egaleze sau chiar să depăşească inteligenţa umană şi să aducă beneficii majore umanităţii, de la descoperiri ştiinţifice până la progrese medicale. Sau, dimpotrivă, ar putea permite ca puterea AI să scape de sub control, lăsând omenirea la discreţia propriilor sale decizii autonome.

„Sună ca un proces destul de înfricoşător”, a declarat Kaplan pentru ziar.

„Nu ştii unde ajungi.”

Kaplan se numără printre numeroasele voci influente din domeniul AI care avertizează asupra consecinţelor potenţial dezastruoase ale acestei tehnologii. Geoffrey Hinton, unul dintre cei trei aşa-numiţi „naşi” ai inteligenţei artificiale, a declarat public că regretă munca de o viaţă şi a avertizat în repetate rânduri că AI ar putea destabiliza sau chiar distruge societatea. Sam Altman, CEO OpenAI, a prezis că inteligenţa artificială va elimina categorii întregi de locuri de muncă. Iar superiorul lui Kaplan, CEO-ul Anthropic, Dario Amodei, a avertizat recent că AI ar putea prelua peste jumătate dintre joburile de birou entry-level şi i-a acuzat pe competitori că „îndulcesc” amploarea reală a impactului social.

Kaplan pare să fie de acord cu evaluarea şefului său privind piaţa muncii. Inteligenţa artificială va putea realiza „cea mai mare parte a muncii de birou” în următorii doi-trei ani, a spus el în interviu. Deşi este optimist că AI poate fi menţinută aliniată intereselor umane, Kaplan se declară profund îngrijorat de perspectiva în care sisteme AI puternice ar ajunge să antreneze alte sisteme AI — o decizie cu „mize extrem de mari” pe care omenirea va trebui să o ia în viitorul apropiat.

„Aceasta este, probabil, cea mai mare decizie sau cel mai înfricoşător lucru pe care îl putem face… din momentul în care nimeni nu mai este implicat în proces, nu mai ştii ce se întâmplă”, a spus Kaplan pentru The Guardian. „Se pierde controlul? Mai ştim măcar ce fac aceste AI-uri?”

Într-o anumită măsură, modele AI mai mari sunt deja folosite pentru a antrena modele mai mici, într-un proces numit distilare, care le permite acestora din urmă să ajungă din urmă „profesorul” lor. Îngrijorarea lui Kaplan vizează însă ceea ce este cunoscut drept auto-îmbunătăţire recursivă, un scenariu în care AI-urile învaţă fără intervenţie umană şi fac salturi semnificative în capacităţile lor.

Decizia de a permite sau nu acest lucru ridică unele dintre cele mai grele întrebări filozofice legate de tehnologie.

„Întrebarea principală este: sunt AI-urile bune pentru umanitate?”, spune Kaplan. „Sunt ele utile? Sunt inofensive? Înţeleg oamenii? Le vor permite oamenilor să îşi păstreze controlul asupra propriilor vieţi şi asupra lumii?”

Deşi pericolele AI sunt reale, avertismentele lui Kaplan necesită o analiză atentă. Ele pornesc de la premisa că inteligenţa artificială este deja una dintre cele mai importante şi influente tehnologii create vreodată, indiferent dacă sistemele actuale de AI reprezintă cu adevărat maşinile autonome extrem de puternice descrise în numeroasele scenarii science-fiction sau doar un pas intermediar către acestea. Se spune adesea că nu există publicitate negativă, iar în cazul industriei AI, discursurile apocaliptice pot deveni ele însele o formă de promovare. Viziunile despre sfârşitul lumii pot distrage atenţia de la efectele mult mai concrete ale AI: impactul său major asupra mediului, încălcarea drepturilor de autor sau efectele cognitive adictive şi generatoare de iluzii.

În plus, mulţi experţi în inteligenţă artificială, inclusiv figuri fondatoare ale domeniului precum Yann LeCun, nu cred că arhitectura modelelor lingvistice de mari dimensiuni (LLM), care stă la baza chatboturilor AI, este capabilă să evolueze în sisteme omnipotente şi autonome, aşa cum se tem Kaplan şi alţii. Nici măcar nu este clar dacă AI creşte, în mod real, productivitatea la locul de muncă, unele studii sugerând chiar contrariul — în linie cu mai multe cazuri notabile în care managerii au înlocuit angajaţi cu agenţi AI, pentru ca apoi să îi reangajeze după ce aceste instrumente s-au dovedit ineficiente.

Kaplan admite că este posibil ca evoluţia capacităţilor AI să stagneze. „Poate că cea mai bună inteligenţă artificială care va exista vreodată este cea pe care o avem chiar acum”, a spus el. „Dar nu credem că acesta este scenariul. Credem că va continua să devină din ce în ce mai bună.”