Google a retras după doar 24 de ore o funcţie experimentală de inteligenţă artificială din Google Earth, după ce utilizatorii au folosit-o pentru a genera imagini false în locaţii reale, inclusiv în zone de conflict. Decizia vine într-un moment în care imaginile din satelit au devenit o sursă importantă de informaţii pentru jurnalişti, cercetători şi organizaţii care încearcă să verifice ceea ce se întâmplă pe teren. Problema nu este însă doar că AI-ul poate produce imagini false, ci că astfel de imagini pot ajunge să pună sub semnul întrebării chiar şi dovezile reale.

O funcţie de inteligenţă artificială generativă introdusă pentru scurt timp în Google Earth, care le permitea utilizatorilor să creeze imagini satelitare false, demonstrează efectele de durată ale unor instrumente AI neverificate în timpul unui conflict, arată publicaţia Rest of World.

De când Israelul şi SUA au lansat atacuri asupra Iranului în februarie, aruncând regiunea Golfului într-un conflict, cele două ţări au purtat şi un război informaţional folosind instrumente bazate pe inteligenţă artificială. Pentru a separa faptele de ficţiune, autorităţile, analiştii şi jurnaliştii s-au orientat deopotrivă către imagini satelitare comerciale, inclusiv Google Earth, cea mai apropiată sursă de ceea ce poate fi considerat „realitatea din teren”, în condiţiile accesului limitat la anumite locaţii.

Google Earth a fost de mult timp o infrastructură de încredere pentru activitatea de verificare, fiind platforma pe care investigatorii din surse deschise sunt instruiţi oficial pentru activităţi legate de conflictele din Siria, Yemen şi Sudan. Cu toate acestea, pe 30 iulie, Google a lansat o nouă funcţie care integra generarea de imagini direct în Google Earth, produsul care, timp de două decenii, fusese sinonim cu adevărul oferit de imaginile satelitare.

Funcţia le permitea utilizatorilor să mărească harta până la coordonate reale, să introducă un prompt şi să obţină o scenă fotorealistă generată de AI, integrată în imaginile satelitare şi aeriene reale. În doar câteva ore, utilizatorii au creat o centrală nucleară în Iran, un crater provocat de o bombă lângă un spital din Gaza şi imagini cu o inundaţie care ajungea până la Capitoliul SUA.

Falsificarea imaginilor satelitare nu este un fenomen nou. Chiar watermarkurile Google au scos la iveală utilizarea modelului său AI Gemini pentru falsificarea unor dovezi satelitare, o practică recurentă în propaganda afiliată statului iranian. Însă funcţia din Google Earth a făcut procesul mult mai uşor şi mai accesibil, chiar în interiorul instrumentului cunoscut pentru informaţiile sale de încredere.

În mai puţin de o zi, în urma reacţiilor vehemente ale experţilor în investigaţii şi ale presei, Google a retras funcţia, spunând că aceasta va reveni cu „măsuri de protecţie mai puternice”. Aceasta este, într-un fel, imaginea de ansamblu a mediului nostru informaţional: noi modalităţi de a fabrica realităţi apar peste noapte, urmează un val de critici, iar mecanismele de protecţie sunt introduse abia după producerea răului. Între timp, guvernul SUA a cerut companiilor de imagini satelitare să restricţioneze accesul jurnaliştilor la imaginile din regiune, invocând securitatea în timpul războiului. Astfel, oferta de informaţii reale s-a redus chiar în timp ce falsurile se răspândeau.

Imagini video fabricate

Acesta nu a fost primul produs de inteligenţă artificială generativă al unei companii mari de tehnologie care a fost retras sau suspendat în ultima perioadă. OpenAI a închis aplicaţia video Sora în martie, în urma unor presiuni publice susţinute pentru retragerea acesteia. Decizia a venit însă la doar câteva luni după apariţia unei avalanşe de conţinut abuziv care viza femei şi de recreări problematice ale unor figuri istorice. Modelul este similar: apare răul, compania retrage produsul şi spune că va lucra la mecanismele de protecţie pe care le-ar fi putut – sau ar fi trebuit – să le construiască înainte ca răul să se producă.

Retragerile sunt însă excepţia. Regula seamănă mai degrabă cu ceea ce s-a întâmplat în cazul unor instrumente precum Veo 3, generatorul video lansat de Google în mai 2025, cu doar câteva săptămâni înainte ca Israelul şi Iranul să intre în război. La câteva zile după primele atacuri, pe reţelele sociale circulau videoclipuri generate de AI care prezentau baraje de rachete asupra Tel Avivului, cu watermarkul Veo încă vizibil.

Ulterior, utilizatorii au devenit suficient de familiarizaţi cu tehnologia pentru a decupa watermarkul vizibil.

Watermarkurile se aplică însă doar produselor care le folosesc. Atunci când pe reţelele sociale a apărut, la doar câteva minute după atac, un videoclip fals care pretindea că prezintă o explozie la închisoarea Evin din Iran şi care a fost distribuit inclusiv de organizaţii precum Sky News şi BBC, nu exista niciun watermark care să permită verificarea. Citizen Lab a stabilit ulterior că videoclipul făcea parte dintr-o operaţiune de influenţă susţinută de AI, despre care se crede că ar fi fost derulată de guvernul israelian.

Însă detectarea şi atribuirea funcţionează după cronometre diferite, iar ambele rămân în urma minciunii. Experţii criminalişti au stabilit în câteva zile că videoclipul de la Evin era generat de AI, însă, într-un mediu în care sunt produse şi distribuite milioane de materiale, astfel de eforturi nu sunt suficiente. Faptele ajung la public mult timp după ce îndoiala şi-a făcut deja efectul.

„Dividendele mincinosului”

Reglementarea nu a ţinut pasul cu dezvoltarea rapidă a modelelor AI, iar noile legi nu acoperă suficient de multe probleme create deja de AI. Unele dintre obligaţiile de transparenţă prevăzute de AI Act al Uniunii Europene, adoptat în 2024, au intrat în vigoare pe 2 august 2026. În ciuda perioadei lungi de implementare, aplicarea regulilor este fragilă, iar regulile precise rămân mai degrabă un cod voluntar decât o legislaţie aplicabilă efectiv.

Legea Californiei privind transparenţa AI, adoptată tot în 2024, a intrat în vigoare în august pentru companiile care dezvoltă instrumente de inteligenţă artificială generativă, însă nu va ajunge la nivelul platformelor cel puţin până în 2027. Iar instrumentele de detectare impuse de aceste legi nu sunt încă pregătite: atunci când Rest of World le-a testat în cazul a 13 furnizori de AI, şapte nu aveau niciun instrument public de detectare, iar dintre cei care aveau, toate cu excepţia unuia puteau fi induse în eroare.

Acest mediu a permis ca teoria „dividendelor mincinosului” să devină realitatea conflictelor moderne. Atunci când cercetătorii în drept Bobby Chesney şi Danielle Citron au introdus termenul în 2019, acesta reprezenta un avertisment: simpla existenţă a unor falsuri convingătoare le-ar permite actorilor rău intenţionaţi să respingă dovezile autentice drept fabricate. Astăzi, acest concept descrie pur şi simplu modul în care funcţionează conflictele contemporane. Falsul nu mai trebuie să reziste unei examinări atente; trebuie doar să existe suficient de mult timp pentru ca adevărul să ajungă la public deja compromis.

Episodul Google Earth a demonstrat în 24 de ore ceea ce ultimii trei ani de conţinut generat de AI care a distorsionat conflicte şi crize au arătat mai lent. Mecanismele de protecţie pentru aceste instrumente trebuie testate acolo unde miza este cea mai mare – în războaie, atrocităţi şi crize – înainte de lansare, nu adăugate ulterior, după un val de indignare. Unele funcţii vor pica pur şi simplu acest test: generarea de imagini nu are un loc legitim într-o infrastructură de verificare precum Google Earth.

Experţii în transparenţa AI au prezentat deja ceea ce este necesar: mecanisme de provenienţă care să nu fie opţionale şi care să însoţească o imagine oriunde este vizualizată; eforturi solide şi transparente pentru detectarea conţinutului generat de AI şi comunicarea modului în care acesta a fost creat, inclusiv a incertitudinilor şi complexităţilor care nu pot fi reduse la o simplă dihotomie „AI versus real”. De asemenea, este nevoie ca responsabilitatea privind demonstrarea autenticităţii să revină companiilor care implementează aceste sisteme, nu oamenilor care documentează propriile tragedii. Google ştie cum să construiască produse bazate pe încredere. Cu un an în urmă, Google Pixel 10 a devenit primul smartphone care a integrat direct în cameră standardul deschis C2PA pentru stabilirea provenienţei imaginilor, semnând fotografiile chiar în momentul capturării. În cele mai noi modele iPhone 18 Pro ale Apple, prezentate recent, o serie de funcţii le permit utilizatorilor să genereze imagini de referinţă semnate criptografic şi să identifice imaginile generate sau editate cu ajutorul AI.

„Atunci când una dintre cele mai mari companii din lume decide că această problemă merită rezolvată la nivel hardware, este o recunoaştere a faptului că pierderea colectivă a încrederii în imaginile pe care le vedem nu mai este o preocupare de nişă pentru cercetătorii criminalişti”, a remarcat Hany Farid, unul dintre cei mai importanţi experţi în deepfake. „Este o problemă generală şi necesită soluţii la fel de răspândite.”

Google şi-a retras funcţia într-o singură zi, însă nimeni nu poate retrage îndoiala care se leagă acum de fiecare imagine provenită dintr-o zonă de război. Imaginile satelitare false din acest conflict continuă să fie capturate prin screenshot şi introduse în noi afirmaţii, iar documentarea autentică poartă acum un asterisc pe care nu îl merită.

Undeva în acest spaţiu dintre adevăr şi îndoială, fotojurnaliştii care trebuie să-şi demonstreze autenticitatea propriilor imagini, familiile care încearcă să decidă căror avertismente să le dea crezare şi cei care verifică informaţiile aleargă acum în urma minciunii continuând munca lentă de a restabili ceea ce o lansare de produs a făcut să poată fi pus sub semnul întrebării într-o clipă. Google a declarat că funcţia va reveni după ce vor fi pregătite „măsuri de protecţie mai puternice”. Speranţa care rămâne este că această pauză a dus şi la înţelegerea faptului că niciun beneficiu al integrării inteligenţei artificiale generative în Google Earth nu merită răul şi îndoiala pe care le creează.