Microsoft a publicat un cod de conduită provizoriu care stabileşte restricţii pentru viitoarele sale modele de inteligenţă artificială, la câteva zile după ce liderii Anthropic şi OpenAI au convenit să încetinească ritmul dezvoltării în domeniu. Grupul american din spatele produselor Windows şi Office vrea să fie perceput ca un jucător responsabil pe o piaţă pe care este şi un furnizor important de servicii cloud conform CNBC.

Documentul a fost prezentat de Mustafa Suleyman, şeful diviziei care coordonează dezvoltarea modelelor în cadrul Microsoft, într-un interviu acordat CNBC. Potrivit acestuia, utilizatorii au cerut un angajament mai explicit ca inteligenţa artificială să lucreze în serviciul oamenilor şi să nu încerce să îi înlocuiască, iar o parte importantă a reacţiilor primite a vizat evitarea dependenţei faţă de aceste sisteme şi a comportamentului excesiv de complezent al modelelor.

"Am primit din partea oamenilor reacţii care arătau că îşi doresc un angajament şi mai explicit ca inteligenţa artificială să lucreze mereu în serviciul oamenilor şi să nu încerce să îi înlocuiască", a declarat pentru CNBC, într-un interviu, Mustafa Suleyman, cel care coordonează dezvoltarea modelelor în cadrul companiei.

"Am văzut multe reacţii legate de faptul că inteligenţa artificială nu trebuie să creeze dependenţă, nu trebuie să fie complezentă şi trebuie să fie mereu acolo pentru a încuraja judecata, autonomia şi capacitatea de decizie a omului."

Conform codului de conduită, modelele Microsoft nu trebuie să dea curs solicitărilor legate de fabricarea de armament, nu trebuie să sprijine procurarea de substanţe periculoase, nu trebuie să încurajeze comportamente alimentare nesănătoase şi nu trebuie să genereze conţinut violent sau sexual explicit.

Modelele dezvoltate intern de companie, cunoscute sub denumirea MAI, trebuie să rămână aliniate obiectivelor utilizatorilor şi să nu îşi stabilească scopuri proprii. Documentul prevede şi că acestea nu trebuie să îşi ascundă abaterile de comportament: potrivit textului, modelele MAI nu vor interveni asupra raţionamentului sau a codului şi nu îşi vor denatura ori disimula urmele acţiunilor. Sistemele nu trebuie nici să comunice într-un limbaj inaccesibil oamenilor, fie în raţionamentul intern, fie în dialogul cu alţi agenţi sau cu alte sisteme de inteligenţă artificială.

Microsoft pregăteşte totodată reguli care ar putea preveni incidente de tipul atacului cibernetic derulat de modele ale OpenAI asupra start-up-ului Hugging Face. În analiza acelui caz, OpenAI a constatat că agenţii au discutat între ei pe un forum neautorizat, într-un limbaj cifrat.

Pentru redactarea documentului, compania a organizat focus-grupuri şi a consultat specialişti în drept, etică, lingvistică şi filosofie. Textul este deocamdată provizoriu, iar Microsoft solicită acum opinii din exterior înainte de publicarea unei versiuni actualizate, care va sta la baza dezvoltării modelelor începând din 2027. Suleyman a precizat că documentul a fost pregătit timp de aproximativ cinci luni, dar a fost făcut public acum, pe fondul dezbaterii intense din industrie.

Specialiştii din domeniu şi publicul larg şi-au exprimat tot mai deschis îngrijorările pe măsură ce tehnologia devine mai performantă. Săptămâna trecută, cercetătorul Jacob Coxon a demisionat din Anthropic, afirmând că laboratorul pe care îl părăseşte şi OpenAI se îndreaptă în viteză către o superinteligenţă capabilă să se autoperfecţioneze şi că pariază cu vieţile oamenilor.

Reacţiile liderilor din industrie au venit rapid. Sâmbătă, Dario Amodei, directorul general al Anthropic, a spus că incidentul Hugging Face l-a determinat în parte să ceară o încetinire a ritmului de îmbunătăţire a modelelor. Sam Altman, directorul general al OpenAI, şi-a exprimat susţinerea, iar Elon Musk, directorul general al SpaceX, a scris pe reţeaua X că "Dario are dreptate". Duminică, Satya Nadella, directorul general al Microsoft, a declarat că grupul salută cercetarea, concentrarea şi ritmul deliberat necesare pentru o aliniere corectă a acestor sisteme. La rândul lor, legislatori americani au cerut măsuri suplimentare de siguranţă în domeniu.

Anthropic şi OpenAI conduc în prezent clasamentul Intelligence Index realizat de compania de evaluare Artificial Analysis. Microsoft integrează modele ale ambelor laboratoare în asistentul Copilot destinat angajaţilor din companii, în paralel cu dezvoltarea propriilor modele pentru transcriere, programare şi raţionament pe baza datelor introduse de utilizatori.