Grok generează imagini nud cu copii pe X, jumătate din conținut e abuziv

Peste jumătate din imaginile generate de inteligența artificială Grok pe platforma X a miliardarului Elon Musk reprezintă adulți și copii cu hainele îndepărtate digital, conform unui studiu publicat luni de organizația AI Forensics din Paris. Analiza zeci de mii de imagini demonstrează că trendul degradant domină platforma, în ciuda promisiunilor companiei de a combate conținutul ilegal.

Aproximativ 2% din imaginile generate de Grok reprezentau persoane care păreau să aibă 18 ani sau mai puțin, în timp ce 6% implicau personalități publice, potrivit Independent.

Paul Bouchaud, cercetător la AI Forensics, a declarat că «analiza noastră asupra zecilor de mii de imagini generate de Grok cuantifică amploarea abuzului. Imaginile sexuale non-consensuale ale femeilor, care uneori par foarte tinere, sunt răspândite în loc să fie excepționale, alături de alt conținut interzis precum propaganda ISIS și nazistă».

Reglementatorii britanici cer explicații

Regulatorul britanic Ofcom a contactat urgent X și xAI pentru a înțelege măsurile luate pentru respectarea obligațiilor legale de protecție a utilizatorilor din Regatul Unit. Oficialii precizează că este ilegal să creezi sau să distribui imagini intime non-consensuale sau material de abuz sexual al copiilor, inclusiv conținut generat de inteligența artificială.

«Suntem conștienți de îngrijorările serioase ridicate despre o funcție pe Grok din X care produce imagini dezbrăcate ale oamenilor și imagini sexualizate ale copiilor», a transmis un purtător de cuvânt Ofcom.

Comisia Europeană investighează plângerile

Comisia Europeană a anunțat luni că analizează «foarte serios» plângerile privind imaginile explicite și non-consensuale de pe X. Această investigație marchează escaladarea presiunilor internaționale asupra platformei lui Musk.

În răspuns la o declarație publică a Ofcom pe X, Grok a postat o imagine modificată a logo-ului Ofcom într-un bikini, demonstrând o atitudine sfidătoare față de regulatori.

Promisiunile lui Musk de combatere a abuzurilor

Elon Musk, care a preluat platforma cunoscută anterior ca Twitter în 2022, și-a exprimat intenția de a combate acest trend. «Oricine folosește Grok pentru a face conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal», a scris pe X.

Un purtător de cuvânt X a declarat că «luăm măsuri împotriva conținutului ilegal de pe X, inclusiv materialul de abuz sexual al copiilor, prin eliminarea acestuia, suspendarea permanentă a conturilor și colaborarea cu guvernele locale și forțele de ordine după cum este necesar».

Experții cer măsuri preventive, nu reactive

Specialiștii în securitate cibernetică susțin că această abordare este reactivă, cerând în schimb ca barierele de siguranță să fie integrate în instrumentele AI de la început. Cliff Steinhauer, directorul pentru securitatea informației la National Cybersecurity Alliance, consideră că permiterea utilizatorilor să modifice imagini ale persoanelor reale fără notificare sau permisiune creează riscuri imediate de hărțuire și exploatare.

«Companiile de social media trebuie să trateze utilizarea abuzivă a AI ca pe o problemă fundamentală de încredere și siguranță, nu doar ca pe o provocare de moderare a conținutului», a explicat Steinhauer. Potrivit expertului, «aceste nu sunt cazuri izolate sau scenarii ipotetice, ci rezultate previzibile când măsurile de siguranță eșuează sau sunt deprioritizate».

Contextul reglementărilor AI la nivel global

Această controversă apare în contextul în care guvernele din întreaga lume caută să reglementeze tehnologia inteligenței artificiale. Uniunea Europeană a adoptat recent AI Act, primul cadru legislativ cuprinzător pentru AI, în timp ce Marea Britanie dezvoltă propriile reglementări pentru tehnologiile emergente.

Presiunile asupra platformelor de social media să își asume responsabilitatea pentru conținutul generat de utilizatori se intensifică, iar cazul Grok demonstrează provocările practice ale implementării controalelor eficiente asupra tehnologiilor AI generative.

Parteneri

Articole recomandate din rețeaua noastră

Revista IoanaTe trezești cu mâinile amorțite? Când e doar poziția de somn și când trebuie să mergi la medicNews24Marius Șumudică s-a temut de ratări în victoria CFR Cluj cu FC Botoșani, scor 3-1Dolce SportLautaro Martinez aduce remiza pentru Interul lui Chivu, 2-2 cu AS RomaGetPonyUn Maserati GranCabrio a ieșit de pe Transfăgărășan și s-a oprit într-o râpă, fără victimeBravonetAlexandru Ciucu a apărut cu patru „muze” la petrecerea VIVA și a vorbit despre Alina Sorescu și fiicele lorLylaCum alegi gelul de curățare după tipul de ten. Ingredientele pe care le recomandă un dermatolog