Bill Gates, cândva unul dintre cei mai cunoscuţi susţinători ai dezvoltării tehnologice, şi-a schimbat radical tonul în privinţa inteligenţei artificiale şi avertizează că AI a ajuns suficient de puternică pentru ca actori statali sau grupări şi grupuri cu intenţii ostile să provoace pierderi de vieţi la o scară fără precedent. Miliardarul spune că riscul imediat al folosirii AI în scopuri criminale este mai mare decât pericolul ca sistemele să scape, în viitor, de sub controlul oamenilor, scrie Fortune.

„Inteligenţa artificială este cu siguranţă suficient de puternică pentru a provoca evenimente care duc la moartea unui miliard de oameni. Nu a existat niciodată o armă atât de puternică precum combinaţia dintre personaje cu intenţii ostile şi cele mai noi instrumente de inteligenţă artificială”, a declarat Gates.

Gates, care avertizează de mai mulţi ani asupra riscurilor biologice, spune că inteligenţa artificială este deosebit de problematică în cazul armelor biologice. Potrivit miliardarului, AI a trecut deja pragul la care i-ar permite unui terorist să ucidă sute de milioane de oameni. Progresele tehnologice pot ajuta cercetătorii să proiecteze molecule noi şi, în anumite condiţii, să facă un agent patogen „mai periculos decât variola”.

O astfel de capacitate ar fi fost anterior accesibilă doar unor state care dispuneau de resursele necesare pentru dezvoltarea unor astfel de arme, însă Gates avertizează că inteligenţa artificială poate reduce semnificativ barierele tehnologice pentru actori statali şi grupuri mai mici.

„Acesta este cel mai periculos lucru cu care ne confruntăm astăzi. AI face armele nucleare să pară nişte jucării”, a mai spus Gates.

Miliardarul consideră că riscul imediat al folosirii AI de către anumiţi actori statali sau grupuri ostile este mai important decât riscul pe termen lung ca sistemele de inteligenţă artificială să scape de sub controlul oamenilor. În opinia sa, problema este amplificată de faptul că guvernele nu au dezvoltat aceeaşi expertiză tehnică în domeniul AI pe care au acumulat-o în cazul armelor nucleare, deoarece tehnologia AI a apărut în principal în sectorul privat.

El susţine că guvernele ar trebui să impună dezvoltatorilor de AI sisteme de monitorizare şi măsuri de siguranţă, inclusiv păstrarea unor înregistrări care să permită autorităţilor să verifice modul în care sunt utilizate modelele. Gates spune că simpla reglementare a industriei nu este suficientă şi că un mecanism de shutdown în caz urgenţă nu ar rezolva în totalitate problema.

„Când încerci să limitezi comportamentul periculos, ai nevoie de informaţii şi de înregistrări despre ceea ce se întâmplă. Prin urmare, simpla existenţă a unor mecanisme de oprire nu ar preveni aceste tragedii”, a spus Gates.

În paralel, marile laboratoare de AI discută despre riscul ca sistemele dezvoltate să ajungă să se comporte în moduri pe care creatorii lor nu le pot controla. OpenAI şi Anthropic au oprit sau încetinit temporar antrenarea unor modele în urma unor probleme de siguranţă, în timp ce directorii celor două companii au susţinut că dezvoltarea capabilităţilor AI trebuie să fie însoţită de progrese similare în monitorizare şi siguranţă.

Pentru Gates, însă, măsurile de siguranţă nu pot rămâne exclusiv în responsabilitatea companiilor care dezvoltă tehnologia.

 „Nu te poţi baza pe faptul că industria se va comporta exemplar şi va da dovadă de autocontrol în acest domeniu”, a spus el.