Deepfake: Capacitatea tehnologiei de a crea și răspândi dezinformarea, în mediul online

Iniţial, „Nu este nevoie să murim în acest război. Vă sfătuiesc să trăiți”, intona vocea solemnă a președintelui ucrainean Volodymyr Zelensky într-unul dintre videoclipurile care au devenit virale în martie 2022, după invazia completă a Rusiei în Ucraina.

Videoclipul lui Zelensky a fost urmat de un altul în care omologul rus Vladimir Putin vorbea despre o capitulare pașnică. Deși erau de slabă calitate, acestea s-au răspândit rapid, creând confuzie și transmițând o narațiune distorsionată.

În universul digital, în care granițele dintre realitate și ficțiune sunt din ce în ce mai neclare, deepfakes continuă să ne provoace ecranele. De la începutul războiului dintre Rusia și Ucraina, deep fakes au fost transformate în arme, infiltrându-se în fiecare colț al rețelelor sociale.

Deep fakes au fost transformate în arme

În ciuda reacțiilor aproape imediate și a dezmințirii care au urmat, circulația lor a fost mai pronunțată în țările non-englezofone. Aceste regiuni sunt mai expuse la dezinformare din cauza lipsei instrumentelor de dezmințire, care sunt mai avansate pentru limba engleză.

În opinia sa, „Suntem creaturi foarte vizuale; ceea ce vedem influențează ceea ce gândim, percepem și credem”, susține Victor Madeira, jurnalist și expert în contrainformații și contrainformații rusești. „Deepfakes reprezintă doar cea mai recentă armă concepută pentru a confunda, copleși și, în cele din urmă, a paraliza procesul decizional occidental și voința noastră de a reacționa”.

În timp ce obiectivul este de a submina încrederea în informații, mass-media și democrație, există o lipsă de politici proactive care să acorde prioritate protecției utilizatorilor. Cu toate acestea, puterea derivată din această manipulare atrage platformele online, care nu sunt obligate din punct de vedere legal să monitorizeze, să detecteze și să elimine deepfakes rău intenționate.

Astfel, „În calitate de companii, acestea se angajează într-o competiție masivă pentru a se extinde pe noi piețe, chiar și atunci când nu dispun de infrastructura necesară pentru a proteja utilizatorii”, spune Luca Nicotra, director de campanie al ONG-ului Avaaz, specializat în investigarea dezinformării online.

În prezent, „Există mai multe rețele de asigurare a calității care analizează anual acești verificatori de fapte, asigurându-se că sunt terți independenți care aderă la standarde profesionale. O altă alternativă este monitorizarea principalelor surse de informare și dezinformare din diferite țări cu ajutorul unor baze de date precum NewsGuard și Global Disinformation Index. Acest lucru poate fi costisitor”, spune Nicotra. Platformele preferă să își reducă costurile dacă a avea aceste instrumente nu este fundamental.

Crearea Deepfake

Progresele în domeniul inteligenței artificiale generative au generat îngrijorări cu privire la capacitatea tehnologiei de a crea și răspândi dezinformarea la o scară fără precedent.

În afirmaţiile sale, „Se ajunge la un punct în care devine greu pentru oameni să își dea seama dacă imaginea pe care o primesc pe telefon este autentică sau nu”, susține Cristian Vaccari, profesor de comunicare politică la Universitatea Loughborough și expert în dezinformare.

Conținutul produs inițial prin câteva mijloace simple poate părea de slabă calitate, dar, prin modificările necesare, poate deveni credibil. Un exemplu recent implică vocea deepfake a președintelui american Joe Biden, care îndeamnă cetățenii să nu voteze.

În mod similar, cel mai longeviv guvernator al băncii centrale din lume, Mugur Isărescu, a fost ținta unui videoclip deepfake care îl înfățișa pe responsabilul politic ca promovând investiții frauduloase.

În explicaţiile sale, „Există deja instrumente care permit producerea de deepfakes chiar și cu un simplu mesaj text”, avertizează Jutta Jahnel, cercetător și expert în inteligență artificială la Karlsruhe Institute of Technology. „Oricine le poate crea; acesta este un fenomen recent. Este un risc sistemic complex pentru întreaga societate.” Un risc sistemic ale cărui granițe au devenit deja greu de delimitat.

Din datele ultimului raport al ONG-ului Freedom House, cel puțin 47 de guverne din întreaga lume – printre care Franța, Brazilia, Angola, Myanmar și Kârgâzstan – au folosit comentatori pro-guvernamentali pentru a manipula discuțiile online în favoarea lor, dublu față de acum un deceniu. În ceea ce privește utilizarea IA, „în ultimul an, aceasta a fost folosită în cel puțin 16 țări pentru a semăna îndoieli, a denigra adversarii sau a influența dezbaterile publice”.

În avertizările experților, situația se înrăutățește și nu este ușor de identificat responsabilii într-un mediu saturat de dezinformare cauzată de război.

Astfel, „Conflictul dintre Rusia și Ucraina provoacă o polarizare și o motivație sporită pentru a polua mediul informațional”, afirmă expertul Agenției Europene pentru Securitate Cibernetică (ENISA), Erika Magonara.

Prin analiza diferitelor canale Telegram, a reieșit că profilurile implicate în astfel de diseminări de conținut au caracteristici specifice. „Există un fel de cerc vicios”, explică Vaccari, „persoanele care au mai puțină încredere în știri, în organizațiile de informare și în instituțiile politice devin dezamăgite și se bazează pe rețelele sociale sau pe anumite cercuri, urmând o abordare de tip „fă-ți singur cercetările” pentru a contracara informațiile”.” Problema nu îi implică doar pe creatori, ci și pe cei care le difuzează.

Propaganda pro-Kremlin

În acest sens, „Dezinformarea online, în special în perioadele electorale și legată de narațiuni pro-Kremlin, rămâne o preocupare constantă”, raportează Freedom House în secțiunea sa dedicată Italiei. Aceeași tendință este valabilă și pentru cele mai recente legate de Spania.

Încă de la începutul războiului, Rusia a lucrat pe Facebook pentru a-și răspândi propaganda prin intermediul grupurilor și conturilor create în acest scop. O analiză a diferitelor canale Telegram care operează în Italia și Spania a confirmat această tendință, dezvăluind înclinații către ideologii de extremă dreapta și sentimente anti-sistem. Aceste elemente au oferit un teren fertil pentru propaganda pro-Kremlin. Printre cele mai răspândite narațiuni se numără teorii care neagă masacrul de la Bucha, susținând existența unor laboratoare biologice americane în Ucraina și promovând denazificarea Ucrainei.

O tendință larg răspândită a fost crearea de deepfakes pentru a-i parodia pe protagoniștii politici ai războiului, provocând prejudicii personale defăimătoare ca principală consecință. Un studiu recent realizat de Centrul de cercetare Lero de la University College Cork pe Twitter a confirmat acest efect. Acesta a afirmat că „indivizii au avut tendința de a trece cu vederea sau chiar de a încuraja daunele provocate de deepfakes defăimătoare atunci când sunt îndreptate împotriva rivalilor politici”.

Vizavi de realitate ca și cum ar fi un deepfake are consecințe negative asupra percepției adevărului. Aceasta reflectă un alt rezultat al deepfakes într-un mediu informațional deja manipulator – ceea ce academicienii numesc „dividendul mincinosului”.

O altă tendință identificată este absența dezmințirii pe Telegram. În dimineața zilei de 16 martie 2022, primul deepfake politic a răspândit dezinformarea într-un context de conflict, subliniind impactul potențial al deepfakes. Astfel de conținuturi au alimentat convingerile conspiraționiste și au generat un scepticism dăunător. Acest fenomen apare mai frecvent în anumite țări.

Dezinformarea în Italia și Spania

În ultima perioadă, lipsa unor contramăsuri adecvate pune și mai mult în pericol un mediu digital asediat de deepfakes. Este cazul Spaniei și Italiei, unde „există de două ori mai multe situații de dezinformare, dar resurse limitate pentru a monitoriza acest fenomen”, susține Nicotra.

Un raport din 2020 a evidențiat această tendință, indicând că utilizatorii vorbitori de limbă italiană și spaniolă ar putea fi mai expuși la dezinformare. „Rețelele de socializare detectează doar jumătate dintre postările false, deoarece au puține stimulente pentru a investi în alte limbi.” Cea mai mare parte a dezmințirii se referă la limba engleză.

În afirmaţiile sale, „În acest moment, pentru orice companie este un dezavantaj competitiv să nu mai furnizeze utilizatorilor dezinformări și conținut polarizat”, susține Nicotra.

Telegram este una dintre platformele în acest context. Mai mult, dintre toate cele 27 de țări ale UE, Italia și Spania o utilizează cel mai mult pentru a obține informații: 27 % și, respectiv, 23 %.

Datele privind dezinformarea rusă arată o realitate îngrijorătoare care încurajează și mai mult răspândirea anumitor narațiuni în cadrul acestor bule de informații. După cum explică Madeira, statele mediteraneene sunt „blânde” față de Rusia și sunt și mai indulgente în ceea ce privește problemele de securitate. Confruntată cu această lipsă de transparență și de control asupra dezinformării, Uniunea Europeană a încercat să intervină prin promovarea diferitelor legi privind reglementarea conținutului.

Ce mai are de făcut UE

Legea privind inteligența artificială, care a fost finalizată recent de către colegiuitori, este prima lege a UE care se concentrează pe inteligența artificială.

Una dintre măsurile pe care le include este etichetarea dezinformării pentru a contracara eficiența și a împiedica generarea de conținut ilegal. „Introduce obligații și cerințe gradate în funcție de nivelul de risc pentru a limita impactul negativ asupra sănătății, siguranței și drepturilor fundamentale”, explică eurodeputatul socialist Brando Benifei, care a condus activitatea parlamentară în acest dosar.

Ar putea fi necesar să se convingă social media și alte platforme să interzică conținuturile specifice generate de inteligența artificială înainte de a le crea, în loc să aplice etichetarea după aceea, crede Benifei.

Concret, „Ceea ce se schimbă este nivelul de responsabilitate pe care instituțiile UE îl plasează din ce în ce mai mult – și pe bună dreptate – pe platformele care amplifică acest conținut, în special atunci când conținutul este politic”, a spus Benifei.

În precizările sale, „Dacă acceptați deepfakes pe platforma dumneavoastră, sunteți responsabil pentru acel conținut. Sunteți, de asemenea, responsabil pentru riscurile structurale, deoarece acționați ca un amplificator al acestei dezinformări”, susține Dragoș Tudorache, europarlamentar liberal și coraportor în acest dosar.

În ciuda publicării Actului european privind serviciile digitale, care stabilește bazele pentru controlul dezinformării pe rețelele sociale, și a aprobării Actului privind IA, „IA a făcut din dezinformare o tendință, facilitând crearea de conținuturi false”, spune Magonara de la ENISA.

Aşadar, Deepfake-ul reprezintă o tehnică de război menită să alimenteze tipuri de discurs și stereotipuri împărtășite. Într-un conflict care nu dă semne că se va încheia, după cum susține Magonara, „adevărata țintă este societatea civilă„.

Sursa: euobserver.com

Parteneri

Articole recomandate din rețeaua noastră

BravonetPărinții Irinei Rimes se mută la București. Artista locuiește deja lângă fratele ei, VitaliLylaMai mulți pași sunt asociați cu o stare mintală mai bună la adolescenți, dar nu sunt tratamentRevista IoanaBuretele Magic Eraser poate mătui inoxul, ecranele și blaturile din piatrăNews24Șoferița din accidentul feroviar cu patru morți din Galați avea permis de numai trei zileDolce SportRomânia a pierdut cu 0-6 în Polonia, cu trei goluri încasate de la Robert LewandowskiGetPonyPoliția Rutieră poate reține talonul pentru anvelope uzate peste limita legală, lumini neomologate și zgomot peste limita legală