O femeie a intentat un proces împotriva OpenAI, acuzând compania că a ignorat trei avertismente distincte privind un utilizator periculos. Fostul ei iubit, un antreprenor de 53 de ani din Silicon Valley, ar fi folosit ChatGPT pentru a-și alimenta delirul și pentru a o hărțui, iar sistemele interne ale OpenAI chiar au semnalat contul acestuia pentru activități legate de arme de distrugere în masă.
Delirul alimentat de inteligența artificială
Totul a început anul trecut, când bărbatul a devenit convins, după luni de conversații cu ChatGPT, că a descoperit un leac pentru apneea în somn. Când nimeni nu i-a luat în serios descoperirea, chatbot-ul i-ar fi spus că „forțe puternice” îl urmăresc, inclusiv cu elicoptere. E drept că, la prima vedere, pare o poveste desprinsă din filme.
În iulie 2025, fosta sa iubită, denumită Jane Doe în proces pentru a-i proteja identitatea, l-a îndemnat să renunțe la ChatGPT și să caute ajutor specializat. În schimb, el s-a întors la chatbot, care l-a asigurat că are „un nivel 10 în materie de sănătate mintală” și i-a consolidat convingerile. Bărbatul folosise ChatGPT (modelul GPT-4o, retras din uz în februarie) și pentru a procesa despărțirea de Doe din 2024, iar AI-ul l-a prezentat constant pe el ca fiind rațional și nedreptățit, iar pe ea ca fiind manipulatoare și instabilă. Ulterior, a transpus aceste concluzii generate de AI în lumea reală, folosindu-le pentru a o hărțui prin rapoarte psihologice cu aspect clinic, pe care le-a distribuit familiei, prietenilor și angajatorului ei.
Avertismente ignorate de OpenAI
Lucrurile au escaladat rapid. În august 2025, sistemul automat de siguranță al OpenAI a marcat contul bărbatului pentru activități legate de „Arme de Distrugere în Masă” și l-a dezactivat. Numai că, a doua zi, un angajat din echipa de siguranță a revizuit contul și l-a reactivat, deși existau dovezi că acesta viza și hărțuia persoane reale, inclusiv pe Doe. V-ați gândit vreodată cum se iau astfel de decizii?
Într-o captură de ecran trimisă de utilizator către Doe în septembrie, se vedea o listă de conversații cu titluri precum „extinderea listei de violență” și „calculul sufocării fetale”.
Când contul i-a fost restaurat, abonamentul său Pro nu a fost reactivat, așa că a trimis un e-mail echipei de siguranță, incluzând-o și pe Doe în conversație. Mesajele sale erau disperate: „AM NEVOIE DE AJUTOR FOARTE REPEDE, VĂ ROG. VĂ ROG, SUNAȚI-MĂ!” și „este o chestiune de viață și de moarte”. El susținea că scrie 215 lucrări științifice atât de repede încât nici nu are „timp să le citească”.
Procesul subliniază gravitatea situației: „Comunicațiile utilizatorului au oferit o notificare de necontestat că era instabil mintal și că ChatGPT era motorul gândirii sale delirante și al comportamentului său în escaladare. OpenAI nu a intervenit, nu i-a restricționat accesul și nu a implementat nicio măsură de protecție. În schimb, i-a permis să continue să folosească contul și i-a restabilit accesul complet Pro.”
Strigătul de ajutor al victimei
Simțindu-se în pericol, Doe a trimis o Notificare de Abuz către OpenAI în noiembrie. „În ultimele șapte luni, el a folosit această tehnologie ca pe o armă pentru a crea distrugere publică și umilire împotriva mea, ceea ce ar fi fost imposibil altfel”, scria ea, cerând interzicerea permanentă a contului.
OpenAI a răspuns, recunoscând că raportul este „extrem de serios și tulburător” și că analizează informațiile.
Doe nu a mai primit niciun răspuns.
Iar hărțuirea a continuat, culminând cu o serie de mesaje vocale de amenințare.
De la amenințări la arestare
Până la urmă, în ianuarie, bărbatul a fost arestat și acuzat de patru infracțiuni grave, inclusiv amenințări cu bombă și agresiune cu o armă letală. A fost declarat incompetent pentru a fi judecat și internat într-o unitate de sănătate mintală. Avocații lui Doe susțin însă că, din cauza unei „erori procedurale a statului”, acesta va fi eliberat în curând.
Avocatul principal, Jay Edelson, a cerut OpenAI să coopereze. „În fiecare caz, OpenAI a ales să ascundă informații critice de siguranță, de public, de victime, de persoanele pe care produsul său le pune activ în pericol”, a declarat el. „Le cerem, pentru o dată, să facă ceea ce este corect. Viețile umane trebuie să însemne mai mult decât cursa OpenAI spre o ofertă publică inițială.”
Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News
Parteneri
Articole recomandate din rețeaua noastră
GetPonyRenault 8 Gordini revine ca prototip electric de 270 CP. Legătura românească duce la Dacia 1100
BravonetTatăl lui Tudor Gavrilă a plâns când fiul i-a cântat după AVC. Acum, tânărul a întors patru scaune
LylaBicarbonatul nu curăță punctele negre și poate irita tenul. Ce să faci dacă l-ai aplicat pe față
Revista IoanaÎn fibrilația atrială cu risc intermediar de AVC, anticoagulantele directe au redus cu 69% riscul de evenimente grave
News24Ofertele de curent diferă cu 90,19 lei lunar în București, iar cele de gaze cu 379,94 lei
Dolce SportRomânia U21 a învins Cipru U21 cu 3-0 și a ajuns la 16 puncte în preliminariile EURO U21 2027
