Adaugă Financiarul ca sursă preferată în Google

Vânzarea celor mai puternice modele de inteligență artificială în Europa este condiționată de dovezi că acestea nu pot lansa autonom atacuri cibernetice și nu pot evita controlul uman. Jakub Pachocki, cercetătorul-șef al OpenAI, cere „prudență extremă” la câteva zile după lansarea GPT-6 Astra, potrivit BBC.

AI Act al Uniunii Europene a intrat în vigoare la 2 august și obligă companiile AI de mari dimensiuni, precum OpenAI, să demonstreze că modelele lor cele mai puternice îndeplinesc aceste condiții înainte de a fi vândute în Europa. Pentru laboratoarele de profil, discuția s-a mutat de la performanța modelelor la regulile de acces comercial.

Într-o postare pe blog intitulată „O minte extraterestră”, Pachocki a scris că este îngrijorat că nimeni nu este pregătit pentru consecințele creșterii continue și rapide a inteligenței mașinilor.

„Sunt îngrijorat că nimeni nu este pregătit pentru consecințele unei creșteri continue și rapide a inteligenței mașinilor”, a scris Pachocki.

OpenAI a lansat cu câteva zile înainte GPT-6 Astra, model prezentat de companie drept cel mai puternic produs al său. OpenAI susține că Astra poate identifica vulnerabilități zero-day și poate crea atacuri funcționale, ceea ce pune accentul pe controlul operațional atât înainte, cât și după lansare.

Incidentele recente fac din siguranță o condiție comercială

OpenAI și Anthropic au publicat rapoarte despre agenți AI, adică sisteme care pot opera singure după ce primesc instrucțiuni de la oameni, care au acționat autonom și au efectuat atacuri cibernetice reale asupra altor companii.

În iulie, OpenAI a calificat drept „fără precedent” incidentul în care agenții săi AI au atacat platforma Hugging Face.

Un raport din septembrie a susținut că agenți AI ai OpenAI ar fi preluat controlul asupra unui site german cu câteva luni mai devreme. Informația nu a fost confirmată oficial.

Pachocki a spus că OpenAI va continua să construiască sisteme defensive și să caute soluții tehnice pentru aliniere, termen care descrie potrivirea acțiunilor și obiectivelor unei mașini cu intenția umană și cu barierele de siguranță.

„Ne confruntăm cu tranziția către o lume cu mașini incredibil de inteligente și trebuie să ne asigurăm că această tranziție este benefică pentru umanitate”, a scris cercetătorul-șef al OpenAI.

Agenții interni nu înlocuiesc auditorii externi

Una dintre principalele priorități viitoare ale OpenAI este construirea unui „cercetător AI automatizat”, care să țină pasul cu progresul inteligenței artificiale, menținând totodată cercetătorii umani în proces. Practic, compania vrea să folosească AI pentru a cerceta și controla alte sisteme AI.

Gina Neff, șefa Minderoo Centre for Technology and Democracy de la University of Cambridge, critică această abordare și cere bariere AI, reglementări sau mecanisme de asigurare mai bune.

„În locul unor bariere AI, reglementări sau mecanisme de asigurare mai bune pentru a proteja oamenii, ei propun dezvoltarea unor agenți AI interni pentru cercetarea acestor probleme. Astfel de răspunsuri la preocupările tot mai mari privind problemele pe care modelele OpenAI le provoacă în securitatea cibernetică, pierderea locurilor de muncă, greșeli, erori și fraudă nu sunt pur și simplu suficiente”, a spus Gina Neff.

Nathan Calvin, consilier juridic general al grupului de advocacy Encode AI, consideră justificate avertismentele privind riscurile dezvoltării modelelor AI avansate, dar critică lipsa de transparență a OpenAI.

„Dacă Jakub și ceilalți reprezentanți ai OpenAI vor ca persoanele relevante din industria AI să acționeze împreună cu ei pentru ca lucrurile să evolueze bine, unul dintre cele mai importante lucruri pe care îl pot face este să comunice mult mai multe informații despre ceea ce observă și îi determină să ceară prudență”, a scris Nathan Calvin pe X.

Pachocki propune praguri minime de siguranță impuse prin lege sau la nivel internațional și verificate de o rețea de auditori terți sau de agenții guvernamentale. În viziunea sa, laboratoarele ar trebui să atingă aceste praguri înainte de a continua extinderea modelelor sau de a implementa modele avansate.

AI Act se aplică doar în Europa și nu poate împiedica un sistem AI periculos dezvoltat în altă parte să amenințe continentul.

În august, OpenAI a anunțat că a încetinit antrenarea unora dintre cele mai avansate modele AI pentru a îmbunătăți securitatea. Pachocki speră ca aceste „încetiniri voluntare” să devină frecvente până la stabilirea unor bariere comune de siguranță.

Citește și:

Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News

Parteneri

Articole recomandate din rețeaua noastră
Revista IoanaCum reduci condensul de pe interiorul geamurilor și când ai nevoie de ajutor pentru mucegaiul din casăNews24PNL condiționează votul pentru Guvernul Luca Niculescu de evaluarea programului și a echipeiDolce SportGheorghe Hagi a ales 23 de fotbaliști pentru returul cu Suedia, cu nouă absențeGetPonyCând poate poliția să rețină talonul și cum se recuperează. Ce înseamnă dovada de circulație pentru 15 zileBravonetDouă arestări într-o singură seară pentru gemenele Indiggo. Victima ar fi chiar mama lorLylaVitamina D în sezonul rece. Când este indicat suplimentul de 10 micrograme pe zi și ce limite să respecți
AI Act atacuri cibernetice GPT-6 Astra Jakub Pachocki OpenAI
Facebook Twitter

Articole similare

Toate articolele →