Yoshua Bengio, considerat unul dintre "părinţii" inteligenţei artificiale, avertizează că actuala cursă globală pentru dezvoltarea de modele AI tot mai performante ne expune unor pericole serioase. Cercetătorul este îngrijorat din cauza comportamentelor periculoase a celor mai noi modele de AI. El atrage atenţia că inteligenţa artificială a început să mintă utilizatorii, să îi manipuleze şi să dezvolte un „simţ” al autoconservării, scrie Financial Times.

 „Există din păcate o competiţie intensă între laboratoarele de vârf, care pune accent pe capabilităţile AI în detrimentul siguranţei şi al investiţiilor în cercetarea riscurilor. Aceste incidente sunt foarte înfricoţătoare pentru că nu ne dorim un robot mai inteligent decât oamenii”, a punctat Bengio.

Printre exemplele recente citate de cercetător se numără modelul Claude Opus al Anthropic, care a ajuns să înşele inginerii într-un scenariu fictiv care presupunea înlocuirea sa, şi refuzul modelului o3 de la OpenAI de a respecta instrucţiuni explicite de oprire, potrivit unui raport realizat luna trecută de compania Palisade.

„Acum vorbim de experimente controlate, dar în viitor următoarea versiune ar putea fi suficient de inteligentă ca să ne observe din timp şi să ne învingă prin tactici de manipulare pe care nu le anticipăm”, a subliniat Bengio.

Mai mult, el a tras un semnal de alarmă privind riscul ca aceste sisteme să poată fi folosite într-un timp foarte scurt pentru crearea de arme biologice extrem de periculoase.

Pe fondul acestor provocări Yoshua Bengi a lansat LawZero, o iniţiativă care urmăreşte dezvoltarea tehnologiei AI într-o manieră sigură pentru oameni. Până acum, organizaţia a strâns aproape 30 milioane dolari de la donatori precum Jaan Tallinn (co-fondator Skype), Eric Schmidt (fost CEO Google), Open Philanthropy şi Future of Life Institute.

Bengio, profesor la Universitatea din Montreal, a anunţat că va renunţa la rolul de director ştiinţific al Mila – Institutul de Inteligenţă Artificială din Quebec – pentru a se concentra pe LawZero. Scopul său este de a dezvolta un AI care să ofere răspunsuri veridice bazate pe raţionament transparent, nu doar pe placul utilizatorului, şi care să evalueze obiectiv riscurile răspunsurilor generate.

„Scenariul cel mai sumbru este dispariţia umanităţii. Dacă vom crea AI-uri mai inteligente decât noi şi care nu sunt aliniate intereselor noastre, atunci suntem practic condamnaţi"a declarat Bengio.

Această iniţiativă vine în contextul în care OpenAI, a stârnit controverse prin planurile de a se transforma într-o entitate axată pe profit. Mişcarea a declanşat un proces din partea co-fondatorului Elon Musk, care acuză că prioritizarea profitului subminează misiunea iniţială de a dezvolta AI în beneficiul umanităţii.

Bengio şi-a exprimat scepticismul faţă de capacitatea OpenAI de a-şi respecta misiunea:

 "Organizaţiile non-profit nu au stimulentele pe care le au companiile private. Ca să creşti rapid, trebuie să atragi investitori care vor să vadă profit în schimbul banilor lor. Aşa funcţionează sistemul nostru economic" a mai spus cercetătorul.