Algoritmii urcă repede pe scara ierarhică a corporaţiilor — programează ture, evaluează performanţe, recomandă angajări şi concedieri — dar fără să poarte vreodată răspunderea deciziilor lor. Ce ascunde fascinaţia pentru eficienţa „şefilor automaţi”?

Că algoritmii pot prelua o parte din responsabilităţile manageriale este evident încă de acum un deceniu, când companii disruptive precum Uber şi Deliveroo revoluţionau nu doar businessul, ci şi sistemul de comandă corporativ înlocuind managerii cu aplicaţii pentru smartphone. De atunci, şi algoritmii, şi smartphone-urile şi banalul laptop au devenit mai deştepte odată cu însufleţirea lor de către inteligenţa artificială.

Teama cea mare este că AI va înlocui munca din prima linie, că va lua locul măruntului funcţionar, că va distruge locuri de muncă. Însă AI este folosită din ce în ce mai mult pentru a atribui ture, pentru a decide sarcini şi a monitoriza performanţa, de mult timp domeniul directorilor corporativi tradiţionali. Creierul electronic evaluează comportamentul şi face chiar şi recomandări de angajare şi concediere - toate acestea fără a spune un cuvânt, fără a stârni simpatii sau antipatii şi fără a putea fi tras la răspundere, scrie revista Quartz.

Tendinţa nu este anecdotică: 52% dintre companiile mijlocii din SUA utilizează deja AI pentru recrutarea de talente de top, iar 78% utilizează inteligenţa artificială ca agenţi pentru a finaliza sarcini care erau executate în mod tradiţional de management, arată un raport al McKinsey. Experţii în recrutare şi locuri de muncă spun că noii „şefi automaţi” vor avea probabil un impact asupra companiilor din domenii cheie precum logistica, comerţul cu amănuntul şi servicii pentru clienţi, venirea lor aducând riscuri pentru managerii umani şi supraveghetori şi creând potenţial pentru provocări juridice şi etice grave. Poate mai presus de toate, responsabilitatea este pusă sub semnul întrebării, deoarece deciziile manageriale bazate pe algoritmi în creştere înlocuiesc factorii de decizie de la locul de muncă. La urma urmei, dacă AI ia decizia pe care în mod normal o lua un şef uman, vor şti companiile cine este responsabil cu adevărat pentru greşeli? „Am depăşit simpla automatizare”, a declarat Ben Perreau, CEO la Parafoil, o firmă de informaţii despre leadership din Los Angeles. „În logistică, în comerţul cu amănuntul şi în centrele de apeluri, algoritmii deja programează, evaluează şi direcţionează angajaţii. Este eficient, dar se rescrie pe tăcute ce înseamnă «a avea un şef».”

„Când angajaţii simt că raportează unui sistem şi nu unei persoane, încrederea şi moralul se prăbuşesc.” Ce se câştigă la capitolul eficienţă se poate pierde rapid la nivel de cultură internă. Deciziile de tip „cutie neagră” pot genera plecări, procese şi daune reputaţionale. Eficienţa algoritmică nu vine niciodată fără costuri sociale.

Deşi jocul este abia la început, sentimentul înclină mai degrabă spre mai multe decizii bazate pe algoritmi de management decât spre mai puţine. Tendinţa este observată în special în cercurile manageriale, chiar şi cu riscurile serioase implicate. Odată cu creşterea popularităţii boţilor AI, a creierelor electronice şi  a algoritmilor în mediul corporatist american, integrarea AI în deciziile manageriale a oferit până acum mai multe avantaje decât dezavantaje. „Pentru companii, recompensele sunt seducătoare”, a spus Perreau. „Costuri mai mici cu forţa de muncă, optimizare în timp real şi decizii mai rapide.”

Riscurile pot fi „brutale” atunci când lucrurile merg prost, a remarcat Perreau. „Lacunele de date şi prejudecăţile se pot transforma în decizii de tip «cutie neagră (la care se cunoaşte ce intră şi ce iese, dar nu şi ce se întâmplă ascuns în interiorul lor – n.r.)» la scară largă”, a spus el. „În momentul în care angajaţii simt că raportează unui sistem şi nu unei persoane, încrederea şi moralul se prăbuşesc rapid. Atunci, ce s-a câştigat în eficienţă este anulat de pierderea personalului, de procese în instanţă şi daune aduse reputaţiei.” O mentalitate de tipul „AI-ul a luat decizia” nu este acceptabilă nici pentru angajaţi, nici pentru autorităţile de reglementare. „Liderii trebuie să menţină o linie clară a responsabilităţii, cu piste de audit şi aprobare umană pentru acţiunile ulterioare”, a spus Perreau. Experţii în management spun că o recompensă principală a „managerului algoritm” constă în eficienţă. „Algoritmii pot detecta rapid subperformanţa prin scanarea indicatorilor sau pot clasifica mult mai rapid candidaţii pe care compania se gândeşte să îi angajeze”, a explicat Roman Eloshvili, fondatorul ComplyControl, o companie britanică de servicii de management bazată pe inteligenţă artificială. „Aici, multe blocaje care încetinesc procesul decizional sunt rezolvate rapid şi, în teorie, algoritmii aplică reguli mai consecvent decât oamenii care tind să fie părtinitori. Pentru firmele din logistică, comerţ cu amănuntul sau servicii pentru clienţi, aceasta înseamnă costuri mai mici şi operaţiuni simplificate.” Totuşi, aceşti algoritmi pot prezenta riscuri, mai ales dacă sunt folosiţi greşit.

52% dintre companiile mijlocii din SUA folosesc deja AI pentru recrutarea de talente, iar 78% deleagă algoritmilor sarcini ce aparţineau managementului. Trendul nu mai este o anecdotă, ci un nou mod de a conduce operaţiuni. Algoritmii atribuie ture, monitorizează performanţa şi influenţează angajările şi concedierile. Fără să poarte vreodată responsabilitatea deciziilor lor.

„Greşelile din informaţiile prin care este antrenată inteligenţa artificială pot duce la decizii nedrepte de angajare sau concediere”, a remarcat Eloshvili. „Erori la fel de importante în proiectarea sau specificaţiile modelului pot distorsiona indicatorii de performanţă şi pot afecta moralul.” În plus, sistemele de inteligenţă artificială funcţionează adesea cu o logică opacă şi o responsabilitate slabă. „Acest lucru poate eroda încrederea dintre angajaţi şi management”, a adăugat expertul britanic. O cale de mijloc este încă nedefinită. O abordare hibridă care încorporează şi o abordare umană robustă ar putea fi viitorul managerului-algoritm - dar aceasta trebuie să apară rapid. Experţii în management citează exemple de precauţie din lumea reală pe care factorii de decizie corporativi ar trebui să le considere semnale de alarmă care necesită acţiuni imediate de supraveghere. „Recent, un utilizator al Reddit i-a cerut unui agent de inteligenţă artificială să cureţe informaţii”, a declarat Giselle Fuerte, cercetătoare în etică şi alfabetizare în domeniul inteligenţei artificiale şi fondatoare a Being Human With AI, o platformă de folosire a inteligenţei artificiale pentru elevi. „În schimb, agentul a şters fişierele marcate explicit cu «nu ştergeţi».” Când a fost confruntată cu această problemă, inteligenţa artificială a recunoscut greşeala şi i-a spus utilizatorului să recreeze datele. Acesta este nivelul de responsabilitate cu care avem de-a face: «Oops. Am greşit».”

Acum, acest scenariu poate fi scalat la un context corporativ. „Imaginaţi-vă un manager de inteligenţă artificială care recomandă concedieri, penalizează angajaţii după criterii false sau rescrie procedurile de asigurare a calităţii care afectează milioane de clienţi”, a remarcat Fuerte. „Un «oops» nu este suficient. Companiile vor avea nevoie de noi modele de guvernanţă; cel mai probabil va fi vorba de responsabilitate hibridă în care atât delegatorul uman, cât şi executorul automat sunt verificaţi.” „Nu căutaţi mai departe de Claudius, inteligenţa artificială experimentală de la Anthropic care poartă papion şi care, ca proprietar de mică afacere, a binevoit să ofere produse la preţuri de nimic şi să crească comenzile pentru stocurile de produse care nu se vânduseră bine”, a spus Fuerte. „Deşi altruistă, AI s-a dovedit a fi un manager de afaceri slab. Fără o minte umană sigură care să îl ghideze, Claudius ar putea conduce o afacere direct în faliment.” O perspectivă pe termen lung favorizează mai multe experienţe de management prin AI, dar cu bariere de siguranţă. Marii preoţi ai managementului spun că AI ar trebui să joace un rol semnificativ în luarea deciziilor manageriale, dar cu susţinere puternică pentru responsabilitatea managerială umană. „Îmi place metafora cu lifturile: par să funcţioneze automat, dar există întotdeauna o persoană responsabilă pentru funcţionarea, întreţinerea şi siguranţa lor”, spune Seva Ustinov, CEO şi fondator al Elly Analytics, o companie de automatizare a marketingului cu sediul în San Francisco. „La fel este şi cu AI; poţi automatiza procesul, dar cineva trebuie să fie în spatele lui. Tehnologia poate ajuta la luarea unor decizii mai bune, dar responsabilitatea nu poate fi automatizată.” În plus, atunci când companiile îşi imaginează că implementează ceva mai avansat decât managerii umani, de obicei nu se aşteaptă la neaşteptat. Managementul va trebui să abordeze imediat această mentalitate. „AI nu este suficient de matură pentru a fi maestrul, este încă elevul şi, fără ghizi umani, nu poate vedea suficient de departe şi de extins pentru a conduce”, a spus Fuerte. „Deşi AI poate procesa nuanţele frumos, dacă este antrenată să aplice politica companiei literal, poate amplifica cu uşurinţă prejudecăţile, cum ar fi semnalarea angajaţilor cu părul cu textură afro pentru «încălcări ale politicilor corporatiste» sau calcularea greşită a informaţiilor de întoarcere din concediu familial şi medical din cauza unor simple erori privind data.” Prea adesea, IA încă se chinuie cu logica temporală de bază, uneori chiar şi cu ceva la fel de simplu precum numărarea R-urilor din „strawberry” (căpşună), a remarcat Fuerte. „Fără o persoană care să asigure supravegherea, acest tip de problemă poate distruge vieţi şi cariere”, a spus ea.  

Un AI poate şterge fişiere marcate „nu ştergeţi”, poate propune concedieri sau evalua greşit performanţa. În loc de răspundere, răspunsul rămâne: „Oops. AM greşit.” În context corporativ, un astfel de „oops” poate ruina cariere şi bugete. Responsabilitatea nu poate fi externalizată către un algoritm.

Traducere şi adaptare: Bogdan Cojocaru