Raport ISD arată că susținători ai ISIS și al-Qaida folosesc AI pe TikTok pentru propagandă către tineri

O înregistrare a unei execuții comise de Statul Islamic a fost recreată pe TikTok sub forma unui desen animat cu personaje din SpongeBob SquarePants. Institute for Strategic Dialogue a documentat această nouă estetică și a identificat 150 de videoclipuri publicate de 71 de conturi, cu peste 5,4 milioane de vizualizări cumulate, potrivit raportului WIRED. Majoritatea materialelor au fost găsite pe TikTok, iar un număr limitat pe Instagram și Facebook.

Raportul numește fenomenul „Slop Jihad”. Este o tendință în care tineri susținători ai unor grupări teroriste islamiste precum ISIS și al-Qaida folosesc inteligența artificială generativă pentru a crea fan edit-uri, desene animate și meme-uri.

În videoclipul analizat, bărbații închiși într-o cușcă și coborâți într-o piscină într-o înregistrare mai veche a Statului Islamic sunt înlocuiți cu pești în salopete portocalii. SpongeBob coboară cușca în apă, iar Squidward filmează scena. Violența este prezentată într-un format de divertisment, care ascunde mai ușor brandingul terorist convențional.

Moustafa Ayad, director de cercetare pentru islamism global și combaterea terorismului la Institute for Strategic Dialogue, a declarat pentru WIRED că fenomenul este încă la început și continuă să se dezvolte. Ecosistemul susținătorilor a produs mereu conținut de slabă calitate, însă folosirea personajelor din SpongeBob pentru a ilustra Statul Islamic este un element nou.

Inteligența artificială reduce costul și timpul de producție

Raportul ISD explică extinderea fenomenului prin accesul la instrumente generative, care transformă rapid și ieftin materialele oficiale ale grupărilor teroriste în animații. Un cont de TikTok a transformat newsletterul săptămânal al ISIS, al-Naba, în anime. Sursa propagandei rămâne aceeași, dar forma de prezentare se schimbă.

ISD descrie fenomenul drept o transformare fundamentală a esteticii propagandei jihadiste. Grupările teroriste islamiste au folosit de mult timp tehnologii media noi pentru recrutare și pentru construirea unor rețele descentralizate de propagandă online. La începutul anilor 2020, mișcarea Alt Jihad a încercat să preia estetica dreptei alternative în conținutul legat de terorismul islamist.

În 2024, programul News Harvest, afiliat Statului Islamic, a început să folosească prezentatori generați de inteligență artificială pentru a distribui videoclipuri de propagandă mai rapid și mai ieftin. Noul val mută o parte din distribuție de la canalele oficiale către remixuri create de utilizatori.

Adam Hadley, director executiv al Tech Against Terrorism, a declarat pentru WIRED că principala îngrijorare este creșterea volumului și diversității materialelor. Conținutul extremist islamist violent, generat și stilizat cu ajutorul inteligenței artificiale, poate fi mai accesibil publicului tânăr și poate face mai puțin vizibil brandingul terorist convențional. Utilizatorii pot întâlni glorificarea autorilor unor atacuri prin meme-uri, desene animate și alte formate de divertisment, iar interacțiunea cu acestea poate duce la recomandări algoritmice de propagandă mai explicită.

TikTok contestă raportul, dar conturile de rezervă mențin distribuția

Marea majoritate a videoclipurilor identificate de Ayad au fost găsite pe TikTok, iar un număr limitat pe Instagram și Facebook. Cercetătorul atribuie prevalența de pe TikTok paginii For You, al cărei algoritm este „hiper-direcționat către interesele utilizatorilor”, nivelului ridicat de conținut AI de calitate slabă de pe platformă și unui ecosistem jihadist deja consolidat.

TikTok a eliminat unele dintre conturile monitorizate de Ayad, însă multe aveau conturi de rezervă și își anunțaseră urmăritorii unde pot fi găsite după eliminarea unui profil. Ayad spune că unele materiale rămân online luni întregi și continuă să evite eforturile de moderare, inclusiv sistemele destinate identificării conținutului terorist.

Un purtător de cuvânt al TikTok a declarat pentru WIRED că raportul se bazează pe o metodologie vagă și nu reflectă modul în care oamenii folosesc platforma. TikTok spune că interzice organizațiile violente și pe cele care promovează ura și folosește tehnologie avansată de moderare, echipe de siguranță și parteneriate pentru a detecta și elimina proactiv conținutul care încalcă regulile. Compania susține că toate materialele menționate în raport au fost eliminate de pe platformă.

Zeci dintre videoclipurile identificate de ISD au fost șterse după ce WIRED le-a prezentat TikTok. În paralel, unii susținători tradiționali ai grupărilor resping noua estetică „Slop Jihad”, considerând că autorii nu sunt credincioși autentici. Unele conturi care au distribuit propagandă oficială tradițională distribuie însă și videoclipurile noi.

Aaron Zelin, cercetător specializat în extremism jihadist la Washington Institute for Near East Policy, a declarat pentru WIRED că inteligența artificială permite unui grup mult mai larg și mai descentralizat de utilizatori să remixeze figuri și imagini jihadiste. Materialele pot circula în comunități interesate de violență, trolling sau notorietate, nu neapărat de adeziunea la ideologia jihadistă.

Pentru platforme, problema este dublă: materialele sunt mai ieftine și mai rapide de produs, dar și mai greu de identificat când simbolurile teroriste sunt ascunse în formate de divertisment. Un utilizator tânăr poate ajunge la propagandă mai explicită după ce interacționează cu astfel de conținut, prin recomandările algoritmice.

Parteneri

Articole recomandate din rețeaua noastră

Revista IoanaTe poți simți bine cu tensiunea crescută. Cum o verifici acasă, potrivit medicilorNews24Volodimir Zelenski cere minimum 60 de zile fără lupte pentru a pregăti votul în UcrainaDolce SportManchester City câștigă cu 3-0 la Liverpool după verdictul financiar pe care îl contestăGetPonyAlegerea jantelor la Dacia Bigster schimbă confortul și cheltuielile cu pneurile. Când sunt potrivite cele de 19 inchiBravonetArmina a ajuns la spital după un atac de panică. Ea și Marcel au renunțat la „Insula Iubirii” 2026LylaMișcarea zilnică ar putea ajuta somnul mai mult decât exercițiile concentrate în weekend