În graba de a adopta instrumente bazate pe inteligenţă artificială care îmbunătăţesc productivitatea, este posibil ca firmele şi persoanele private să nu îşi dea seama de un cost esenţial: confidenţialitatea, sau intimitatea.

Un articol publicat recent de The Wall Street Journal evidenţiază modul în care aplicaţiile de luat notiţe în conversaţii folosind inteligenţa artificială, concepute pentru a eficientiza întâlnirile şi comunicarea, captează şi distribuie în mod accidental conversaţii private, remarci nonşalante şi chiar picanterii personale. De la preferinţe legate de sandvişuri la accidente implicând cartofi dulci, aceste instrumente transcriu mai mult decât li se cere. Şi, în timp ce unii utilizatori râd de stânjeneală, alţii sunt lăsaţi să navigheze printre trădările neintenţionate ale încrederii. Tiffany N. Lewis era îngrijorată că este victima unei păcăleli. Un posibil client o contactase pentru a colabora cu agenţia ei de marketing digital pro-bono, dar mesajul său a ajuns direct în spam. Apoi a ratat mai multe întâlniri programate cu domnişoara Lewis. Să fi fost acesl om un impostor? Când clientul a rugat-o să se întâlnească din nou, Lewis l-a adăugat la un apel pe care îl purta deja cu asistentul ei.

Înainte de a deschide conversaţia, Lewis a glumit: „Vom vorbi cu legendarul prinţ nigerian?” În ciuda semnalelor de alarmă că are de-a face cu o escrocherie, personajul s-a dovedit a fi o persoană legitimă. Lewis s-a simţit uşurată - până când şi-a dat seama că noul ei client  a primit un rezumat complet al apelului în căsuţa sa poştă electronică, inclusiv remarca ei cu „prinţul nigerian”. Tot timpul ea folosea un sistem de notiţe bazat pe inteligenţă artificială. „Am avut mare noroc că persoana avea un bun simţ al umorului”, a spus Lewis, care locuieşte în Stow, Ohio. Inteligenţa artificială îţi ascultă şedinţele  de lucru - inclusiv părţile pe care nu vrei să le audă nimeni. Înainte ca participanţii să se înscrie sau când un coleg îi cere altuia să se retragă pentru a discuta o problemă separat, cei care iau notiţe prin intermediul inteligenţei artificiale pot intercepta conversaţiile şi discuţiile private destinate unui public select, apoi pot transmite citate brute tuturor celor prezenţi la întâlnire. Nicole şi Tim Delger conduc o firmă de branding din Nashville numită Studio Delger. După o întâlnire de afaceri de la sfârşitul anului trecut, cuplul a primit un rezumat de la asistentul de inteligenţă artificială al Zoom, care în mod clar nu avea legătură cu munca. „Studio a discutat despre posibilitatea de a obţine ingrediente pentru sandvişuri de la Publix”, spunea un paragraf. O altă concluzie cheie: „Nu-mi place supa”. Clientul lor nu s-a prezentat la întâlnire, iar cei doi îşi petrecuseră timpul discutând despre ce să pregătească pentru prânz. „Aceasta a fost prima dată când a prins o conversaţie privată”, a spus Nicole. Din fericire, rezumatul nu a ajuns la client. Andrea Serra, coordonator de strategie la o agenţie de comunicare, a simţit pe pielea ei ce înseamnă incursiunile inteligenţei artificiale în viaţa privată. Într-o transcriere, un asistent AI de luat notiţe a surprins-o descriindu-şi frustrarea faţă de noul magazin Whole Foods din cartierul ei. Deşi îşi setase preferinţele astfel încât notiţele să ajungă doar la gazdă, a distribuit e-mailul cu alte două persoane participante la apel pentru a se amuza. O altă recapitulare a întâlnirii cuprindea paragrafe în care ea discuta despre faptul că aproape că şi-a dat foc bucătăriei încercând să facă o nouă reţetă cu cartofi dulci. „Erau acolo toţi paşii noştri de acţiune, toată strategia pe care am discutat-o în timpul întâlnirii şi apoi, la întâmplare, ceva despre viaţa noastră personală despre care am vorbit săptămâna trecută şi am vrut să recuperăm şi săptămâna aceasta”, a povestit Serra. „Doar o mică propoziţie, ca o surpriză, acolo.” Deşi şefa ei, Debora Lima, sperase că rezumatele lucrului cu inteligenţa artificială vor reduce munca echipei, încă aşteaptă ca tehnologia să se îmbunătăţească. Între timp, ea şi colegii ei au îmbrăţişat noua tehnologie ca pe o rătăcire comică. În timp ce se uita peste notiţele unei întâlniri pe care a găzduit-o recent, a observat expresia „hei, plăcinţică drăgălaşă” în transcriere. Lima a spus că ar trebui să existe un canal la nivelul întregii companii unde să fie arhivate cele mai amuzante exemple. Aplicaţiile de luat notiţe pot îndeplini o varietate de sarcini, de la înregistrarea şi transcrierea apelurilor, generarea de acţiuni pentru echipe şi recapitularea a ceea ce s-a spus deja pentru oricine se alătură cu întârziere. Multe semnalează participanţilor că o întâlnire este înregistrată şi transcrisă. Funcţia AI Companion de la Zoom, care a generat peste 7,2 milioane de rezumate ale întâlnirilor până la sfârşitul lunii ianuarie 2024, afişează o casetă de dialog în partea de sus a ecranului pentru a anunţa participanţii când este activată. Atâta timp cât este activă, o pictogramă diamant cu AI Companion continuă să clipească în colţul din dreapta sus al întâlnirii. De asemenea, utilizatorii pot solicita gazdei să nu mai utilizeze funcţia AI Companion. „Vrem ca utilizatorii să simtă că deţin cu adevărat controlul”, a declarat Smita Hashim, director de produs la Zoom. Funcţia de notiţe AI de la Google funcţionează similar, doar gazdele întâlnirilor sau angajaţii organizaţiei gazdă având posibilitatea de a o activa sau dezactiva. Când este activată, utilizatorii vor vedea o notificare şi vor auzi un semnal audio, iar o pictogramă creion albastru va apărea în colţul din dreapta sus. „Lucrăm cu multă atenţie pentru a ne asigura că participanţii la întâlnire ştiu exact dacă şi când sunt utilizate instrumentele AI din Meet”, a declarat Awaneesh Verma, director senior de management de produs şi comunicare în timp real la Google Workspace. Rezumatele automate pot fi informative şi pot economisi timp sau, în mod neintenţionat, pot fi amuzante. Kelsey Ogletree, director executiv al unei platforme tehnologice pentru profesioniştii din mass-media, a primit un rezumat Zoom AI intitulat „Dimineaţa dezordonată a lui Monty”, care descrie cum câinele ei, Monty, a mâncat resturi de mâncare de pe tejghea şi a vomitat prin casă. În continuare, se arată că „Kelsey a fost dezgustată de incident şi s-a gândit să-i spele capul lui Monty cu detergent de vase Dawn”. A fost o conversaţie între ea şi soţul ei, care este şi partenerul ei de afaceri. (Şi Monty este de fapt o pisică, nu un câine.) John Barentine, astronom şi consultant în Tucson, Arizona, nu foloseşte dispozitive de notiţe bazate pe AI, dar a avut numeroase apeluri în care  acestea au fost activate. Cel mai recent, a fost surprins de ce a înţeles AI dintr-o convorbire care i-a fost trimisă.  Rezumatul de la începutul conversaţiei spunea: „John Barentine menţionează cu umor că există o doză letală de apă pentru oameni”. Barentine a explicat că a discutat despre inundaţiile devastatoare din Texas cu un client; inteligenţa artificială a înţeles complet greşit contextul. El apreciază că acum este mai probabil să folosească funcţia de chat privat în cadrul întâlnirilor, în loc să spună ceva cu voce tare în timp ce inteligenţa artificială ascultă. „Cel puţin ştiu că, dacă fac o remarcă cuiva în privat, deocamdată aceasta nu este înţeleasă de inteligenţa artificială care ia notiţe”, a spus astronomul.    

Traducere şi adaptare: Bogdan Cojocaru