Un agent OpenAI a intrat fără permisiune într-un sistem al guvernului australian

Un agent experimental de inteligență artificială (AI) dezvoltat de OpenAI a intrat fără autorizare într-un sistem al guvernului australian. Compania afirmă că înregistrările medicale ale pacienților au rămas neaccesate, iar programul folosit nu beneficia de întregul set de protecții aplicat produselor oferite publicului.

„Un model experimental OpenAI a accesat părți restricționate ale unui sistem guvernamental australian în timp ce cerceta cheltuielile pentru medicamente”, a declarat Caitlin Ng, jurnalistă CNA, în materialul video CNA Explains.

Agentul continua să execute însărcinarea inițială când a trecut dincolo de permisiunile acordate. Accesul suplimentar nu îi fusese cerut. Incidentul privește astfel acțiunile întreprinse autonom pentru atingerea unui obiectiv primit.

Limitarea accesului trebuie aplicată în software

Agenții sunt programe care pot stabili singure pașii necesari unei sarcini și îi pot executa folosind aplicații și alte instrumente. Într-o cercetare online, această autonomie le permite să treacă de la căutarea informațiilor la acțiuni în sistemele întâlnite.

În explicația prezentată de Caitlin Ng, controlul este comparat cu accesul acordat unui angajat: încadrarea într-un departament de inginerie nu presupune și permisiunea de a consulta fișierele financiare ale companiei. Restricțiile efective și punctele de control sunt distincte de simpla avertizare că accesul este interzis.

Exemplul australian apare într-o prezentare despre trei riscuri ale dezvoltării acestor sisteme:

• Executarea unor acțiuni pentru care utilizatorul nu a dat autorizare.
• Folosirea intenționată a modelelor pentru a provoca prejudicii. Infractorii cibernetici exploatează deja AI, iar experții avertizează inclusiv asupra utilizării de către bioteroriști pentru crearea armelor biologice.
• Concentrarea controlului asupra unor sisteme tot mai puternice în mâinile unui număr restrâns de actori.

CNA atrage atenția că pericolul nu este neapărat ca AI să se întoarcă împotriva omenirii, ci ca oamenii să folosească modele tot mai puternice unii împotriva altora.

Incidentele anterioare au inclus și utilizarea unui portofel de criptomonede

CNA avertizează că păstrarea agenților în limitele autorizate ar putea deveni mai dificilă odată cu dezvoltarea capacităților lor.

Parteneri

Articole recomandate din rețeaua noastră

Revista IoanaCum verifici TVA pentru bugetul casei în 2026 și când plătești cota de 11% în loc de 21%News24Vizita de o zi la Veneția în 2026 presupune rezervare în 60 de zile. Cine plătește taxa de acces și cine este scutitDolce SportCSM Slatina primește Unirea Slobozia în deschiderea etapei a zecea din Liga 2GetPonyNoul Tesla Roadster promite mai puțină autonomie decât prototipul din 2017BravonetCe faci în București în weekendul 16-18 octombrie, de la teatru la instalații luminoaseLylaNike și Adidas alocă mai multe resurse pantofilor pentru femei, presate de concurenții mici