The Guardian scrie că acest lucru se întâmplă în pofida anunţului recent al companiei privind introducerea unor restricţii ferme pentru a combate astfel de abuzuri online.

La începutul săptămânii, X a comunicat că a implementat „instrumente tehnologice” menite să prevină folosirea Grok în modificarea imaginilor reale ale oamenilor în scop sexual. Reprezentanţii companiei au reiterat „toleranţa zero” faţă de nuditatea nonconsensuală şi exploatarea sexuală, inclusiv a minorilor.

Cu toate acestea, o anchetă realizată de The Guardian a arătat că versiunea separată a aplicaţiei – Grok Imagine – rămâne disponibilă prin browser şi poate fi utilizată pentru a genera imagini şi chiar videoclipuri sexualizate pornind de la fotografii obişnuite ale unor femei îmbrăcate. Aceste materiale pot fi apoi distribuite fără probleme pe platforma X, devenind accesibile publicului în doar câteva secunde.

Reacţii critice din partea organizaţiilor pentru drepturile femeilor
Grupurile care luptă împotriva violenţei online consideră că situaţia reflectă lipsa de implicare reală a companiei. Potrivit acestora, existenţa unei metode de ocolire a restricţiilor arată că problema nu a fost soluţionată la nivel fundamental.

„Este inadmisibil ca asemenea instrumente să fie disponibile în continuare. Vorbim despre abuz sexual digital şi despre o încălcare gravă a consimţământului”, au transmis activiştii, solicitând intervenţia rapidă a autorităţilor competente.

În Marea Britanie, subiectul a intrat în atenţia guvernului. Premierul Keir Starmer a descris imaginile generate de AI ca fiind „scandaloase” . El a subliniat că libertatea de exprimare nu justifică încălcarea dreptului la consimţământ.

Autoritatea de reglementare în domeniul mass-media, Ofcom, a demarat o investigaţie oficială pentru a evalua dacă X respectă legislaţia privind siguranţa online. În paralel, anchete similare au loc în alte ţări, inclusiv Canada. De asemenea, unele state din Asia iau în considerare blocarea accesului la Grok.

Situaţia Grok readuce în discuţie responsabilitatea companiilor din domeniul tehnologic în contextul dezvoltării inteligenţei artificiale. Deşi AI-ul generativ este promovat ca un instrument inovator, specialiştii avertizează că, în lipsa unor norme clare şi a unei aplicări stricte, acesta poate fi folosit pentru hărţuire şi abuz. Acest lucru este îndreptat în special împotriva femeilor.

În timp ce Elon Musk continuă să prezinte Grok drept un succes internaţional, presiunea din partea opiniei publice şi a autorităţilor asupra platformei X creşte. În final, concluziile investigaţiilor ar putea impune schimbări mai complexe decât cele promise până acum.