Sam Altman a pledat, totodată, pentru cooperare internaţională şi pentru reguli stabilite prin procese democratice.

„Industria nu trebuie să accepte prea mult risc tehnologic doar pentru că beneficiile sunt prea mari şi importante pentru a încetini”, a spus Altman, în intervenţia sa din cadrul reuniunii de nivel înalt a Consiliului de Securitate al ONU, convocată de Franţa, care deţine în septembrie preşedinţia Consiliului.

„Deciziile importante nu pot fi luate doar în laboratoare”

Altman a avertizat că unul dintre principalele riscuri ale progresului accelerat este pierderea controlului uman asupra tehnologiei. În opinia sa, tehnicile de aliniere şi de siguranţă trebuie să avanseze cel puţin la fel de repede precum capacităţile modelelor. El a identificat, de asemenea, concentrarea excesivă a puterii drept un al doilea risc major.

Altman a pus accent pe rolul guvernelor în stabilirea regulilor pentru inteligenţa artificială.

„Dacă inteligenţa artificială trebuie să fie democratică, cele mai importante decizii nu pot fi luate doar în laboratoare din San Francisco. Aceste decizii trebuie stabilite prin procese democratice şi de către guverne responsabile în faţa cetăţenilor”, a spus el.

„La nivel internaţional, acest lucru va necesita cooperare”, a continuat Altman. El a dat ca exemplu situaţiile în care state aflate în competiţie au reuşit să colaboreze în faţa unor tehnologii cu impact major.

„În istoria noastră, au existat momente în care ţări care concurează şi nu se plac întotdeauna foarte mult s-au reunit pentru interese comune şi binele colectiv în faţa unei tehnologii noi şi puternice. Credem că acesta trebuie să fie unul dintre acele momente”, a spus şeful OpenAI.

Altman: AI poate aduce o nouă „Renaştere”

Directorul OpenAI a vorbit şi despre beneficiile potenţiale ale tehnologiei. În opinia sa, inteligenţa artificială ar putea deschide o perioadă comparabilă cu o „Renaştere”, dacă este folosită pentru a extinde capacităţile oamenilor.

Şeful OpenAI a descris poziţia companiei drept o încercare de a găsi o cale de mijloc. „Nu vrem să cădem în capcana optimismului orb, dar nici în fatalism”, a spus Altman.

El a prezentat trei principii pe care OpenAI le consideră importante: oamenii trebuie să rămână „în centrul procesului decizional”, progresul tehnologic şi economic trebuie să fie orientat spre oameni, iar AI trebuie să contribuie la creşterea capacităţii fiecărei persoane de a acţiona.

„Poate că noi suntem creatorii acestei tehnologii, dar nu suntem eroii acestei poveşti. Rolul nostru este să avem încredere în magia talentului uman”, a declarat Altman.

Amodei: „AI ar putea fi un risc pentru umanitate în ansamblu”

La aceeaşi reuniune, directorul executiv al Anthropic, Dario Amodei, a transmis un avertisment similar. „Cred chiar că AI ar putea fi un risc pentru umanitate în ansamblu, dacă tehnologia este gestionată necorespunzător”, a declarat el.

Amodei a cerut o strategie internaţională coordonată şi a subliniat că niciun lider, nicio companie şi nicio ţară nu poate gestiona singură riscurile generate de sistemele AI tot mai puternice. El a cerut Consiliului de Securitate să susţină măsuri concrete.

Printre propunerile sale s-au numărat interzicerea utilizării AI pentru proliferarea sau fabricarea armelor biologice şi dezvoltarea unor sisteme de evaluare şi verificare care să ţină pasul cu progresul tehnologic.

Reuniunea a fost prezidată de ministrul francez de Externe, Jean-Noël Barrot, în contextul preşedinţiei franceze a Consiliului de Securitate. Discuţiile au vizat inclusiv riscul atacurilor cibernetice autonome şi posibilitatea ca oamenii să piardă controlul asupra modelelor AI cele mai avansate.

Yoshua Bengio, copreşedinte al panelului ştiinţific internaţional independent al ONU pentru AI, a declarat la reuniune că „pericolele sunt reale şi iminente” şi a avertizat că ameninţarea nu respectă graniţele naţionale.

Discuţia are loc într-un moment în care guvernele încearcă să construiască reguli pentru o tehnologie care evoluează mai repede decât mecanismele tradiţionale de reglementare. În aceeaşi perioadă, preşedintele american Donald Trump s-a pronunţat împotriva unui cadru global care să limiteze dezvoltarea AI, ceea ce evidenţiază diferenţele dintre abordările internaţionale privind guvernarea noii tehnologii.