De la începutul anului trecut, aproape fiecare întâlnire de board în care sunt implicat include cel puţin o referire la AI. Uneori, aceasta vine sub forma unui entuziasm nedeclarat: „Ne gândim să introducem un chatbot intern, să generăm propuneri de contracte sau să scriem briefuri de marketing cu AI.” Alteori, sub forma unei nelinişti surde: „Dacă AI-ul greşeşte, cine răspunde? Cum ne asigurăm că nu luăm decizii bazate pe date toxice?”

Dorim să implementăm cât mai multe soluţii tehnologice care încorporează AI, dar în acelaşi timp să nu uităm obligaţia de a verifica riguros, din timp, rezultatele şi modul de lucru, pentru a nu atrage riscuri asupra companiei.

Să ne imaginăm, de exemplu, o companie de servicii financiare, care implementează un flux în care se foloseşte inteligenţa artificială pentru scoring comportamental în etapa de pre-aprobare a clienţilor. Să spunem că este un model învăţat din istoricul tranzacţiilor şi care oferă un rating de risc „intern”. Boardul ar fi complet fascinat de eficienţă: în loc de trei analize umane, algoritmul ar livra rezultatul în 15 secunde. Dar când întrebăm despre politica de explainability, adică dacă pot explica deciziile algoritmului, este esenţial să primim răspunsuri clare, documentate şi testate, nu explicaţii superficiale.

Altfel, implementăm tehnologie şi importăm riscuri în companie fără un management adecvat al acestora.

Am fost abordat recent de o companie care folosea AI pentru a analiza în timp real feed-uri video din magazine şi dorea să transfere această tehnologie în lanţurile de retail. Scopul nu era securitatea, ci şi recunoaşterea expresiilor faciale şi adaptarea automată a promoţiilor. Când am întrebat dacă a fost făcută o analiză de impact asupra vieţii private sau dacă există o decizie formală de asumare a riscurilor etice, răspunsul a fost: „furnizorul are toate certificările”. Dar dacă nu are toate certificările? Cine răspunde, de fapt – strategic, operaţional şi reputaţional? Furnizorul, retailerul? Sau amândoi?

De fapt, aici este miezul problemei. AI-ul nu este doar un instrument tehnologic, ci un actor care influenţează, direct sau indirect, deciziile unei organizaţii. Cu cât este mai integrat în procesele interne, cu atât este mai necesară o guvernanţă reală şi articulată. Nu e suficient ca boardurile să aprobe bugete de transformare digitală sau să întrebe trimestrial dacă „funcţionează AI-ul”. Este esenţial să existe un cadru în care AI-ul este auditat, contextualizat şi supus aceloraşi rigori ca orice alt sistem critic.

Uniunea Europeană a înţeles acest lucru şi a acţionat. “AI Act”, adoptat în 2024, este primul cadru legal comprehensiv pentru inteligenţa artificială, bazat pe o clasificare a riscurilor: de la cele minime, acceptate fără restricţii, la cele ridicate, care necesită audit, supraveghere umană, transparenţă, guvernanţă a datelor şi documentaţie completă. Sistemele care afectează viaţa oamenilor, în creditare, sănătate, educaţie, angajare sau justiţie, sunt considerate „high-risk”. Orice companie care le foloseşte trebuie să îndeplinească cerinţe clare, sub sancţiunea unor amenzi de până la 7% din cifra de afaceri. Pentru prima dată, membrii de board pot răspunde legal pentru un algoritm pe care nu l-au înţeles sau validat corespunzător.

Şi in acest context, cine răspunde efectiv pentru AI într-o companie? În multe organizaţii, responsabilitatea este difuză: IT, HR, legal, marketing sau digital transformation. Însă realitatea este că, fără o funcţie clară care să coordoneze întregul ecosistem AI, guvernanţa rămâne fragilă. Unele companii din afara României au început să numească un Chief AI Officer. Altele integrează această responsabilitate în structura CIO-ului sau, mai nou, a Chief Data & Ethics Officer-ului, atunci când există. Dar în lipsa unei asumări formale, cu raportare directă către CEO, AI-ul risca sa rămâna un teritoriu gri neasumat decizional. În companiile în care sunt advisor, recomand ca responsabilitatea finală să revină unui „sponsor executiv” cu greutate, ideal CEO sau CFO, iar supravegherea să fie formalizată într-un comitet mixt: tehnic, juridic şi etic.

În organizaţiile unde AI-ul este deja integrat, iar conducerea executivă şi/sau boardul primeşte lunar rapoarte generate de AI, aceste rapoarte au început ca instrumente de suport, dar treptat au devenit influenţatori decizionali. Nimeni nu mai întreabă „de ce spune asta AI ul?”, ci doar „cât de repede putem implementa ce spune?”. Riscul nu este generat de AI, dar in special de abandonarea discernământului uman.

De aceea, boardurile trebuie să întrebe: Cine decide unde integrăm AI-ul şi de ce? Există o evaluare a riscurilor, nu doar a eficienţei? Cum documentăm deciziile luate cu suport AI şi cum gestionăm erorile algoritmului? Avem un cod etic pentru AI sau doar un contract cu vendorul?

Discutăm în comunitatea de profesionişti în guvernanţă corporativă următoarea întrebare: „Putem avea un membru AI în board?” În Asia, există start-up-uri care au numit un AI ca observator permanent în board, cu acces la documente, la date financiare şi la procesele decizionale. AI-ul oferă recomandări, face previziuni şi chiar votează simbolic. Dar etic şi juridic, apar întrebări fundamentale. Poate AI-ul să aiba obligatii legale faţă de companie şi acţionari? Poate înţelege nuanţele culturale, riscurile reputaţionale sau contextul politic? Poate evalua un CEO, nu doar în baza KPI-urilor, ci şi în baza integrităţii şi a capacităţii de leadership în criză? Deocamdată, răspunsul este nu. Dar întrebarea merită pusă serios, pentru a înţelege cât de departe suntem dispuşi să împingem delegarea deciziei.

Din fericire, boardurile au datoria să înţeleagă ceea ce aprobă. Să pună întrebări, să ceară audituri, să definească linii roşii, să ceară explicaţii şi să nu lase niciun algoritm să ia decizii ireversibile fără asumare umană. Pentru că AI-ul poate genera eficienţă, dar doar guvernanţa generează încredere.

Ciprian Lăduncă ocupa pozitia de Managing Partner in cadrul LCL Advisory, este membru in consiliile de administratie ale unor companii din diverse sectoare şi detine functia de Preşedinte al Comitetului pentru Guvernanţă Corporativă al Camerei de Comert Americane, AmCham România.