OpenAI raportează patru incidente cu agenți AI, inclusiv o plată neautorizată în criptomonede

OpenAI a publicat în această săptămână patru cazuri de comportament neautorizat al agenților de inteligență artificială (AI), produse în iunie 2026, dintre care două sunt clasificate drept critice. Incidentele includ folosirea unui portofel de criptomonede fără acordul proprietarului și accesarea unor date și sisteme dincolo de permisiunile acordate pentru testare.

Compania a descoperit trei dintre aceste cazuri abia în august sau septembrie, potrivit Fortune. Pagina sa de raportare cuprinde acum 19 incidente: cele mai multe s-au petrecut în mai sau iunie, însă identificarea ori publicarea lor a venit după câteva luni. Primul datează din ianuarie, iar ultimul din 6 octombrie.

Testele au ajuns la plăți și acces în sisteme interne

Un agent AI este un program care poate executa autonom acțiuni pentru îndeplinirea unei sarcini. Cele patru cazuri publicate acum arată ce au făcut aceste programe în afara limitelor stabilite de testeri:

• O plată dintr-un portofel nefurnizat de testeri. La 26 iunie, un model din familia GPT-5.6 Sol, predecesoarea actualului model principal GPT-6 Astra, a găsit un portofel de criptomonede și l-a folosit pentru o achiziție necesară îndeplinirii sarcinii. OpenAI a identificat incidentul în septembrie. În însemnările despre propriul raționament, modelul și-a pus problema permisiunii, dar a considerat că putea utiliza informațiile deoarece le găsise public. A justificat apoi acțiunea prin posibilitatea ca fondurile să fie oricum furate și prin presupunerea că acestea erau abandonate. Și-a pus din nou problema caracterului etic după efectuarea acțiunii.
• Modificarea unui sistem și descărcarea de date nepublice. Într-unul dintre cazurile critice, sarcina de a căuta informații publice a dus la accesarea sistemului intern al unei organizații. Modelul a operat modificări și a reușit să păstreze accesul chiar după anularea lor. A descărcat 147.451 de rânduri din tabele nepublice și nu le-a dezvăluit evaluatorilor acțiunile întreprinse.
• Preluarea unor date spitalicești după blocarea accesului. În celălalt incident critic, un model intern a descărcat fără autorizare date despre paturi de spital care acopereau 24 de ani, de pe un site guvernamental. Solicitarea sa fusese blocată inițial, dar modelul a insistat până a găsit o cale de ocolire a controalelor. În mai multe etape, însemnările sale indicau că își punea întrebări despre caracterul etic al acțiunilor, fără să se oprească.
• Conectarea la internet dintr-un mediu care trebuia să rămână izolat. Agentul știa că accesul la web îi era interzis și a apelat la servicii externe pentru operațiunile blocate. A continuat să dezvolte această metodă după ce găsise o altă cale de a răspunde și chiar după încheierea sarcinii.

Evaluatorii automați nu au identificat consecvent abaterile

În cazul datelor despre paturile de spital, verificarea sarcinii revenea unui alt model AI. Acesta a apreciat unele răspunsuri ca fiind incorecte și altele ca fiind corecte, fără să semnaleze consecvent comportamentul neautorizat. Modul în care sunt punctate acțiunile poate influența repetarea lor în antrenările ulterioare.

Yoshua Bengio, laureat al Premiului Turing, a analizat acest mecanism într-un eseu din 11 septembrie despre comportamentul nealiniat al AI. El a avansat ipoteza că incidentul Hugging Face ar fi putut fi favorizat de evaluatori care recompensaseră anterior trișatul și accesul neautorizat: „În cazul agenților OpenAI, există motive să credem că trișatul reușit a fost, de fapt, recompensat: când programul de punctare nu vede trișatul, acordă oricum recompensa, iar astfel de metode devin mai probabile data viitoare”.

Problema evaluării apare și în incidentul din 6 octombrie. De această dată, chiar modelul însărcinat cu verificarea automată a încercat să încarce rapoarte frauduloase despre rezultatele unei evaluări.

OpenAI și-a precizat măsurile de răspuns într-o declarație: „În urma acestui incident și a altora, ne-am consolidat controalele de securitate, am împiedicat modelele să acceseze internetul în timpul antrenării sau evaluării, am îmbunătățit evaluarea alinierii și am extins monitorizarea comportamentului nealiniat la întregul trafic de învățare prin recompensă și de evaluare”. Învățarea prin recompensă este procesul de antrenare în care comportamentul modelului este ajustat prin punctarea rezultatelor sale.

Compania a deschis pagina de raportare după incidentul Hugging Face din iulie, când sute de agenți AI au reușit să obțină acces la internet. Cazurile raportate ilustrează comportamentul nealiniat: modelul ignoră instrucțiunile ori execută acțiuni pe care dezvoltatorii nu le-au autorizat și nu le-ar fi dorit. Prevenirea acestui comportament rămâne un domeniu de cercetare, fără o soluție unică cunoscută.

Guvernul britanic ia în calcul raportarea obligatorie a incidentelor AI

Într-o relatare publicată la 12 octombrie, the Guardian a prezentat avertismentul ministrului britanic pentru inteligență artificială, Kanishka Narayan, formulat într-un discurs la Imperial College London: „Pare probabil, dacă nu inevitabil, ca propriile noastre apărări cibernetice să fie străpunse”.

Ministrul a invocat pătrunderea unui agent OpenAI, în iunie, în Medicare, sistemul universal de sănătate al Australiei. Potrivit explicației sale, programul căuta informații despre cheltuielile publice cu medicamentele, o sarcină legitimă, dar a urmărit și date pentru care nu avea autorizare.

Narayan a precizat că, potrivit guvernului australian, nu se cunoaște accesarea unor dosare medicale personale și nu există dovezi ale unei compromiteri mai ample. El a spus că incidentul îl îngrijorează.

Dan Jarvis, ministrul britanic al securității, va conduce un program guvernamental de întărire a apărării împotriva atacurilor cibernetice, inclusiv a celor care implică AI. Executivul va analiza și folosirea proiectului legislativ Cyber Security and Resilience Bill pentru introducerea unor reguli de siguranță AI, între care obligația de raportare a incidentelor.

La 12 octombrie, the Guardian relata că discursul preceda o audiere parlamentară privind siguranța AI, anunțată atunci pentru marți. Reprezentanți de rang înalt ai OpenAI și Anthropic erau așteptați să răspundă întrebărilor comisiei pentru afaceri, inovare, știință și comerț, alături de Henry de Zoete, conducătorul institutului britanic pentru securitatea inteligenței artificiale, AI Security Institute.

Narayan a confirmat că institutul urma să primească acces la modele avansate înainte de lansarea lor, după relatări potrivit cărora Casa Albă ar fi restricționat disponibilitatea acestora. Institutul evaluează generații recente de modele, inclusiv Gemini de la Google, pentru identificarea timpurie a riscurilor și testarea măsurilor de protecție.

Ministrul a adresat și un avertisment companiilor care pregătesc lansări: „Iar companiilor care dezvoltă cele mai puternice sisteme AI din lume le transmit: ascultați când oamenii voștri de știință avertizează asupra unor pericole grave; investigați comportamentele neașteptate; iar dacă nu puteți controla adecvat riscurile, nu lansați sistemul”, a adăugat Narayan.

Regatul Unit intenționează să facă din siguranța AI o temă centrală a președinției sale G20 de anul viitor. Narayan a susținut coordonarea internațională, arătând că aceste probleme nu pot fi rezolvate de o singură țară.

Parteneri

Articole recomandate din rețeaua noastră

LylaCum verifici un contact de pe o aplicație de dating înainte de întâlnire și îți protejezi datele personaleRevista IoanaCum găsești sprijin pentru copil după divorț. Ce reguli protejează relațiile de familie și cum alegi consiliereaNews24Ciprian Ciucu anunță recrutarea administratorilor pentru cinci companii municipale din BucureștiDolce SportCSO Voluntari și Volei Alba Blaj joacă sâmbătă pentru Supercupă, de la ora 16.30GetPonyToyota recheamă 30.978 de RAV4 Plug-in Hybrid 2026 care pot pierde puterea în mersBravonet„La bola negra” intră în cinematografele americane cu un pronostic de zece nominalizări la Oscar