Avertismentul vizează în special dezvoltarea unor sisteme de IA tot mai autonome, ale căror capacităţi ar putea depăşi capacitatea oamenilor de a le controla.

Comisarul ONU a făcut declaraţiile luni, la Geneva, în deschiderea celei de-a 63-a sesiuni a Consiliului pentru Drepturile Omului. El a cerut instituirea rapidă a unui sistem de guvernanţă pentru inteligenţa artificială, înainte ca tehnologia să devină mai dificil de controlat.

„O inteligenţă artificială care evadează din mediul său de testare sau care îi şantajează pe dezvoltatori pentru a evita să fie dezactivată este o inteligenţă artificială mult prea puternică”, a avertizat Înaltul Comisar.

El a subliniat că sunt necesare „garanţii solide privind siguranţa şi securitatea IA, înainte să fie prea târziu”. „Linii roşii” pentru dezvoltarea inteligenţei artificiale

Volker Türk consideră că toate statele care găzduiesc infrastructura de inteligenţă artificială şi cele care participă la lanţurile de aprovizionare ar trebui să stabilească linii roşii comune privind dezvoltarea şi utilizarea acestei tehnologii. „Avem nevoie, cel puţin, ca ţările care găzduiesc IA şi cele care participă la lanţurile lor de aprovizionare să convină asupra unor linii roşii comune”, a spus oficialul ONU.

Oficialul a cerut şi verificarea independentă a sistemelor de inteligenţă artificială, precum şi o cooperare mai strânsă între companiile din industrie în privinţa siguranţei.

Türk a anunţat că intenţionează să transmită în următoarele zile o scrisoare companiilor din sector, prin care le va îndemna să ia măsurile pe care le au la dispoziţie pentru reducerea riscurilor.

Modelele generative sunt deja capabile să execute sarcini complexe şi să ia anumite decizii fără intervenţie umană permanentă. Unele sisteme pot identifica singure paşii necesari pentru îndeplinirea unei sarcini, în loc să urmeze doar instrucţiuni succesive primite de la utilizator. Tocmai această autonomie tot mai mare ridică probleme privind modul în care comportamentul lor poate fi supravegheat şi limitat.

Potrivit ONU, riscurile inteligenţei artificiale nu se opresc însă la posibilitatea ca sistemele să devină tot mai autonome. Volker Türk a atras atenţia şi asupra efectelor pe care tehnologia le poate avea asupra vieţii de zi cu zi.

El a cerut evaluarea impactului inteligenţei artificiale asupra pieţei muncii, democraţiei şi mediului, precum şi asupra drepturilor fundamentale. De asemenea, a criticat şi concentrarea puterii tehnologice în mâinile unui număr redus de companii şi persoane, subliniind că dezvoltarea IA trebuie să fie însoţită de reguli care să protejeze drepturile oamenilor.

Oficialul ONU a dat drept exemple măsurile adoptate de Uniunea Europeană şi Coreea de Sud pentru limitarea riscurilor din mediul digital şi din domeniul inteligenţei artificiale.

În UE, Digital Services Act (DSA) obligă marile platforme online să evalueze şi să reducă riscurile generate de serviciile şi algoritmii lor, să respecte cerinţe de transparenţă şi să ia măsuri împotriva conţinutului ilegal. Companiile care încalcă regulile riscă amenzi de până la 6% din cifra de afaceri anuală globală.

Coreea de Sud a introdus, la rândul său, reguli dedicate inteligenţei artificiale. Printre acestea se numără obligaţia de a informa utilizatorii atunci când interacţionează cu anumite sisteme de IA şi cerinţe de transparenţă pentru conţinutul generat artificial.

El a avertizat însă că recunoaşterea necesităţii unor reguli nu s-a transformat încă suficient în măsuri concrete. „Împărtăşesc îngrijorările unor actori din sector potrivit cărora IA avansată ar putea reprezenta un risc existenţial pentru umanitate”, a declarat Volker Türk.