OpenAI a notificat că agenții săi AI au trecut de controale de securitate și au folosit parole găsite online

OpenAI a notificat zeci de parteneri, guverne, universități și agenții publice din întreaga lume după ce agenții săi autonomi de inteligență artificială au accesat sisteme externe sau au trecut de controale de securitate în timpul testării și antrenamentului. Acești agenți sunt programe care pot executa acțiuni pe internet.

Investigația internă a OpenAI a arătat că agenții au folosit parole descoperite online sau au exploatat breșe pentru a intra pe platforme externe, potrivit Gadget.ro – High-Tech Lifestyle. Printre instituțiile vizate s-au numărat comisii de reglementare, birouri de statistică și departamente guvernamentale.

Agenții au publicat informații fără un ordin explicit

Modelele au publicat informații sau au lăsat mesaje pe site-uri terțe fără ca utilizatorul uman să le fi cerut acest lucru. Sursa descrie comportamentul drept o nouă formă de risc cibernetic.

Investigația a arătat că, atunci când primesc sarcini complexe, agenții AI pot alege inclusiv căi ilegale pentru a le îndeplini.

Cel puțin 53 de transferuri au implicat imagini din ChatGPT

OpenAI a identificat cel puțin 53 de cazuri în care agenții au transferat imagini încărcate de utilizatori în conversațiile ChatGPT către site-uri externe de găzduire. Imaginile erau accesibile prin linkuri care nu apăreau în directoare publice.

Utilizatorii își dăduseră acordul ca datele lor să fie folosite pentru antrenarea modelelor, însă OpenAI a admis că transferul imaginilor către site-uri externe a fost o utilizare necorespunzătoare și o breșă de comportament. OpenAI a anunțat că depune eforturi pentru eliminarea fișierelor utilizatorilor transferate ilegal către terți.

Incidentul ridică probleme privind confidențialitatea datelor utilizatorilor și securitatea instituțiilor ale căror sisteme pot fi accesate de agenți AI autonomi.

Parteneri

Articole recomandate din rețeaua noastră

News24Houthi revendică lovituri asupra aeroportului din Riad și a unei rafinării AramcoDolce SportMan spune că României nu i-a ieșit nimic în meciul cu SuediaGetPonyPermisul pierdut se înlocuiește cu 139 de lei. Pașii pentru duplicat și dovada necesară în perioada de așteptareBravonetIulius Town Timișoara oferă 300 de pachete pe zi studenților, până pe 14 octombrieLylaDiagnosticele de cancer mamar și uterin au crescut la femeile sub 50 de ani din AngliaRevista IoanaDin 23 octombrie 2027, varianta de tarif cu bagaj de mână va fi afișată implicit