O nouă frontieră în campania de dezinformare din Venezuela

În timp ce Venezuela se pregătea pentru sezonul carnavalului luna trecută, un videoclip în limba engleză a fost publicat pe canalul YouTube “House of News”. Prezentatorul său, Noah, a lăudat un presupus boom turistic, în timp ce milioane de cetățeni se îndreptau spre insulele din Caraibe ale țării pentru a petrece.

Raportul, care a fost distribuit pe scară largă în mass-media care sprijină guvernul socialist al președintelui Nicolás Maduro, a sugerat că afirmațiile privind sărăcirea generalizată în Venezuela, țară bogată în petrol, au fost “exagerate”.

Un alt reportaj a susținut că guvernul interimar anti-Maduro a fost implicat în presupusa gestionare necorespunzătoare a fondurilor de 152 de milioane de dolari înainte de recenta sa dizolvare, iar Emma, prezentatoarea, a concluzionat că “venezuelenii nu simt de fapt că există o opoziție la guvern”.

Dar cele două știri erau false, iar cele două prezentatoare nu există. Ei sunt avatare, bazate pe actori reali, care au fost generate cu ajutorul tehnologiei de la Synthesia, o companie de inteligență artificială cu sediul în Londra. Accentele lor americane au fost sintetizate, iar chipurile lor vorbitoare au fost generate de algoritmi de învățare automată.

Săptămâna trecută, YouTube a suspendat cinci conturi, inclusiv House of News, care au partajat dezinformări aliniate guvernului. Dar apariția falsurilor profunde și a mediilor generate de AI reprezintă o nouă frontieră în campania de propagandă și dezinformare a Venezuelei, ridicând îngrijorări cu privire la influența potențială asupra unei populații care are un acces redus la știri demne de încredere din cauza cenzurii generalizate atât în interiorul cât și în afara ei.

“În Venezuela, există un deșert de informații în care dezinformarea poate prospera”, a declarat Adrián González, director al Cazadores de Fake News, un monitor al dezinformării cu sediul în Caracas. “Iar acum există tehnologia necesară pentru a realiza videoclipuri convingătoare de știri false”.

González a declarat că rețeaua de puncte de difuzare a propagandei din Venezuela este vastă, variind de la mass-media oficiale, mass-media independente, dar aliate și furnizori de știri false. Pe rețelele de socializare, afișele au folosit instrumente de automatizare pentru a stimula punctele de discuție ale guvernului, ajutând postările să ajungă la cele mai mari audiențe.

În ultimul an, tehnologiile de inteligență artificială generativă – software care poate crea imagini, videoclipuri și texte pe baza indicațiilor și descrierilor utilizatorului – au crescut în popularitate. Produse precum Dall-E și ChatGPT sunt adoptate pe scară largă de utilizatori, de la elevi la programatori de elită.

Dar au existat, de asemenea, preocupări cu privire la potențialul software-ului de a genera dezinformare. Exemple documentate de schimburi cu agenți AI generativi, cum ar fi chatbots, arată modul în care aceștia scuipă informații false, cunoscute sub numele de “halucinații”, afișează prejudecăți și lansează teorii ale conspirației.

Tehnologia Synthesia, bazată pe un tip de tehnică de inteligență artificială cunoscută sub numele de învățare profundă, generează videoclipuri care prezintă avatare. Aceste avatare vorbesc după un scenariu generat de utilizator, într-o varietate de limbi, iar videoclipurile pot fi create în 10 minute. Compania spune că produce aproximativ 10 000 de videoclipuri pe lună, iar clienții săi variază de la compania de publicitate WPP până la NHS din Regatul Unit, care o folosește pentru a crea videoclipuri cu informații despre sănătate în diferite limbi. Întreprinderea a strâns 66 de milioane de dolari de la investitori din Silicon Valley, inclusiv Kleiner Perkins și GV, fostul Google Ventures.

Synthesia a declarat că clientului venezuelean i s-a interzis utilizarea serviciului său imediat ce videoclipul a fost descoperit pe Twitter de către unul dintre angajații companiei. “Avem linii directoare stricte pentru ce tip de conținut permitem să fie creat pe platforma noastră. Aplicăm termenii noștri de serviciu și interzicem accesul utilizatorilor care îi încalcă”, a precizat compania.

Un avatar creat de Synthesia prezintă vești bune despre Venezuela. Compania britanică a declarat că a interzis clientului său venezuelean să mai folosească serviciile sale după ce a fost descoperit videoclipul

Synthesia a adăugat că a implementat noi restricții privind utilizarea tehnologiei sale, inclusiv interzicerea oricărui conținut de tip reportaj de știri, un filigran digital care să marcheze videoclipurile ca fiind generate de AI și un proces de revizuire mai strict pentru fiecare videoclip.

Synthesia s-a confruntat și cu alte cazuri de utilizare abuzivă. În ianuarie, în Mali au fost descoperite videoclipuri de dezinformare politică generate de companie care circulau în Mali, iar luna trecută analiștii de informații Graphika, cu sediul în SUA, au descoperit o operațiune pro-China promovarea videoclipurilor produse de Synthesia.

Conform ghidurilor sale de etică, Synthesia a declarat că își va elibera produsul doar pentru “clienți de încredere” după un “proces intern explicit de selecție”. Când a fost întrebată de ce aceste politici au eșuat în cazul Venezuelei, compania a declarat că și-a întărit reglementările astfel încât mica sa echipă de moderare a conținutului să poată vedea dacă solicitările unui utilizator au fost respinse anterior, pentru a ajuta la semnalizarea potențialilor utilizatori abuzive și recidiviști.

Informațiile de încredere sunt o resursă rară în Venezuela, care are cele mai mari rezerve dovedite de petrol din lume, dar este afectată de o inflație cu o rată anuală de 350% în acest an, potrivit cercetătorilor locali Ecoanalítica. Alimentele de bază și medicamentele sunt adesea rare sau cu prețuri prohibitive. Sancțiunile stricte impuse de SUA în 2019 au limitat marja de manevră a guvernului, în ciuda relaxării controalelor valutare. Peste 7mn de venezueleni au părăsit țara din 2015.

:

Economia dă semne de îmbunătățire modestă, dar guvernul lui Maduro a devenit mai autoritar în decursul unui deceniu la putere, reprimând disidența în timp ce a cooptat sau a închis presa tradițională de știri. Principalul ziar El Nacional și-a oprit ediția tipărită în 2018. Anul trecut, furnizorii de servicii de internet controlați de stat și privați au blocat accesul la site-urile de știri independente.

Armatele de utilizatori de pe Twitter și de pe alte platforme ajută la promovarea agendei lui Maduro. ProBox, o organizație a societății civile care urmărește dezinformarea pe rețelele de socializare din Venezuela, a documentat cazuri în care guvernul recompensează persoanele care promovează punctele de discuție ale regimului printr-un sistem de credit social cunoscut sub numele de “cardul patriei”.

Printre subiectele comune promovate se numără redresarea economică, îmbunătățirea condițiilor de viață și deficiențele opoziției fracturate. Conturile guvernamentale împărtășesc propaganda, care circulă liber pe rețelele de socializare. Videoclipurile House of News au primit sute de mii de vizualizări pe YouTube. Radiodifuzorii de stat le-au difuzat, de asemenea,.

Conținutul ar putea fi foarte convingător, a declarat șefa ProBox, María Virginia Marín.

“Când ai un așa-numit reporter care vorbește în engleză în ceea ce pare a fi o presă internațională și care îți vinde o realitate pe care tu nu o vezi, se ridică întrebarea că poate că ea există și că tu ești doar în afara ei”, a spus ea.

Videoclipurile au fost parțial destinate unui public internațional, a adăugat Marín. “Scopul este de a încurca dezbaterea internațională despre Venezuela și de a acoperi realitatea a ceea ce se întâmplă aici”.

Sursa – www.ft.com