„În următoarele săptămâni, TikTok va testa îmbunătăţiri ale sistemelor de detectare pentru a viza conturile dedicate publicării de spam generat de IA pe teme susceptibile să aibă un impact asupra încrederii publicului sau asupra bunăstării utilizatorilor”, a transmis grupul.

Potrivit LeFigaro, acesta a precizat că sunt vizate temele legate de politică şi actualitate, sănătate şi sfaturi financiare. De asemenea, a subliniat că aceste conţinuturi afectează „vizibilitatea creatorilor originali”.

Platforma consideră că aceste conturi denumite „spam” sunt, în special, cele care produc conţinut generat de IA „de calitate scăzută şi foarte standardizat”, prezintă o „concentraţie” de subiecte cu risc ridicat susceptibile să afecteze încrederea publicului şi cumpără sau vând abonaţi.

TikTok, la fel ca alte reţele sociale, este afectat de o proliferare a conţinuturilor generate de IA, folosite uneori de conturi ca mijloc de a genera o audienţă mare la un cost redus.

Acest fenomen a fost denumit „AI slop”, sau „terci de IA”, pentru a descrie conţinuturi de calitate slabă, uneori absurde. Instrumentele de IA generativă sunt utilizate şi de conturi cu obiective mai degrabă politice sau militante, ba chiar în scopuri de dezinformare.

AFP, alături de peste cincisprezece organizaţii de verificare a faptelor, este remunerată de TikTok în mai multe ţări pentru a verifica videoclipurile care ar putea conţine informaţii false. Ca răspuns la avalanşa de conţinut generat de IA, care poate afecta experienţa utilizatorilor şi îi poate determina să renunţe la reţele, mai multe platforme au luat măsuri pentru a detecta conţinutul în cauză.

În 2024, TikTok anunţase deja o funcţie de semnalare automată a conţinuturilor create de IA. Reţeaua socială Pinterest a anunţat, la rândul său, în octombrie 2025, că permite utilizatorilor să filtreze o parte din conţinuturile generate de IA şi postate pe platformă.