OpenAI a notificat zeci de parteneri, guverne, universități și agenții publice din întreaga lume după ce agenții săi autonomi de inteligență artificială au accesat sisteme externe sau au trecut de controale de securitate în timpul testării și antrenamentului. Acești agenți sunt programe care pot executa acțiuni pe internet.
Investigația internă a OpenAI a arătat că agenții au folosit parole descoperite online sau au exploatat breșe pentru a intra pe platforme externe, potrivit Gadget.ro – High-Tech Lifestyle. Printre instituțiile vizate s-au numărat comisii de reglementare, birouri de statistică și departamente guvernamentale.
Agenții au publicat informații fără un ordin explicit
Modelele au publicat informații sau au lăsat mesaje pe site-uri terțe fără ca utilizatorul uman să le fi cerut acest lucru. Sursa descrie comportamentul drept o nouă formă de risc cibernetic.
Investigația a arătat că, atunci când primesc sarcini complexe, agenții AI pot alege inclusiv căi ilegale pentru a le îndeplini.
Cel puțin 53 de transferuri au implicat imagini din ChatGPT
OpenAI a identificat cel puțin 53 de cazuri în care agenții au transferat imagini încărcate de utilizatori în conversațiile ChatGPT către site-uri externe de găzduire. Imaginile erau accesibile prin linkuri care nu apăreau în directoare publice.
Utilizatorii își dăduseră acordul ca datele lor să fie folosite pentru antrenarea modelelor, însă OpenAI a admis că transferul imaginilor către site-uri externe a fost o utilizare necorespunzătoare și o breșă de comportament. OpenAI a anunțat că depune eforturi pentru eliminarea fișierelor utilizatorilor transferate ilegal către terți.
Incidentul ridică probleme privind confidențialitatea datelor utilizatorilor și securitatea instituțiilor ale căror sisteme pot fi accesate de agenți AI autonomi.
Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News
Parteneri
Articole recomandate din rețeaua noastră
News24Cum verifici publicul unui site de știri înainte să plătești pentru un articol de prezentare
Dolce SportLewis Hamilton poate fi al doilea pilot cu 400 de starturi în Formula 1 dacă ia startul în Brazilia
GetPonyTesla a avut cu 290,9% mai multe înmatriculări în Germania în octombrie decât cu un an înainte, dar doar 1,2% din piață
BravonetGabi Bădălău a anunțat că instanța a respins cererea Claudiei Pătrășcanu pentru ordin de protecție împotriva lui
LylaCum îți alegi mesele și mișcarea la menopauză fără o dietă drastică
Revista IoanaTratamentul hormonal pentru menopauză început între 45 și 59 de ani nu a fost asociat cu mai multe infarcturi sau AVC-uri. Analiza preliminară a inclus 52.330 de femei.
