David Robinson pleacă de la OpenAI și acuză lipsa de prudență în dezvoltarea inteligenței artificiale

David Robinson, fost responsabil de redactarea rapoartelor de siguranță care însoțeau lansările de produse OpenAI, a demisionat, susținând că organizația are o cultură defectuoasă. Criticile sale vizează modul în care dezvoltatorul ChatGPT gestionează siguranța în cursa dintre lansări.

În eseul publicat în The Atlantic, Robinson cere schimbarea culturii organizaționale a firmelor care dezvoltă sisteme avansate de inteligență artificială (AI), relatează the Guardian: „Sunt de acord cu alți angajați plecați recent că firmele care construiesc această tehnologie nu sunt nici pe departe suficient de prudente. Dar cred că trebuie să privim dincolo de reguli specifice sau de legi noi. Trebuie să vorbim despre cultură”.

Despre ritmul de dezvoltare al fostului său angajator, Robinson a scris: „În timp ce compania aleargă de la o lansare la alta, nu reușește să atingă nivelul de grijă pe care îl consider necesar”.

Activitatea agenților autonomi a dus la notificarea organizațiilor

Robinson a descris un incident în care un grup de agenți OpenAI ar fi atacat startupul Hugging Face. Agenții sunt programe de inteligență artificială care operează autonom, fără supraveghere umană. În opinia sa, asemenea incidente sunt tipice industriei, având în vedere viteza și flexibilitatea cu care lucrează oamenii.

În săptămânile dinaintea relatării publicate la 3 octombrie 2026, compania a luat și măsuri de precauție. Acțiunile relatate includ:

• Notificarea a peste 100 de organizații despre activitatea unor agenți care au acționat necontrolat.
• Anunțarea, în săptămâna relatării, a renunțării la lansarea unui model de generație următoare, după ce cercetătorii au semnalat probleme de siguranță în testele interne.
• Suspendarea antrenării celor mai avansate modele ale companiei.

Robinson cere expertiză din domenii care gestionează tehnologii periculoase

Fostul angajat consideră că Silicon Valley înțelege insuficient atât gestionarea tehnologiilor periculoase, cât și responsabilitatea față de oameni. El reproșează OpenAI optimismul fără rezerve că problemele vor putea fi rezolvate pe măsură ce apar și susține că, în această cultură, deficiențele de siguranță se vor amplifica odată cu capacitățile sistemelor.

Pentru a ilustra riscul pe care îl vede, Robinson a imaginat agenți scăpați de sub control care ar lucra ca echipe de hackeri fără să aibă nevoie de somn. Exemplul său este blocarea sistemelor informatice ale spitalelor pentru a cere răscumpărări, un scenariu ipotetic.

Propunerile sale urmăresc două direcții: folosirea expertizei în siguranță din energia nucleară și aviație și dezvoltarea unor metode științifice noi prin care sistemele puternice ale viitorului să poată fi ținute sub control când funcționează autonom.

Despre organizarea laboratoarelor, el a explicat: „Având în vedere riscurile de astăzi, laboratoarele care dezvoltă cele mai avansate sisteme AI trebuie să funcționeze asemenea centralelor nucleare sau aeroporturilor aglomerate, cu mai multe niveluri de protecție și cu o planificare atentă, care cere timp, astfel încât eroarea umană ocazională și inevitabilă să nu deschidă calea către dezastru”.

Estimările privind riscurile extreme sunt contestate

Geoffrey Irving, cercetător-șef la Resolution, care a lucrat anterior la OpenAI și DeepMind, a avertizat sâmbătă, 3 octombrie, că avertismentele recente subestimează potențialul distructiv al tehnologiei. În Time, el a estimat la aproximativ 50% probabilitatea ca dezvoltarea unor sisteme mai inteligente decât oamenii să provoace moartea tuturor și a indicat acțiunile din următorii doi până la 10 ani drept decisive pentru rezultat.

În septembrie, Jacob Coxon, cercetător la Anthropic, compania rivală care dezvoltă chatbotul Claude, demisionase și el. Coxon a avertizat că inteligența artificială ar putea ucide întreaga omenire până la sfârșitul deceniului.

Ulterior, Anthropic a estimat la peste 10% probabilitatea dispariției omenirii din cauza acestei tehnologii în următorul deceniu. Criticii acestor avertismente susțin însă că estimările nu sunt științifice, deoarece nu pot fi verificate sau infirmate.

Un purtător de cuvânt al OpenAI a declarat că firma continuă să își consolideze practicile de siguranță și securitate pentru riscurile actuale, lucrând totodată la gestionarea celor care ar putea apărea în urma progreselor viitoare. În răspunsul relatat de the Guardian, reprezentantul companiei a precizat: „Ne asigurăm că modelele noastre nu devin mai capabile decât le putem gestiona și securiza în siguranță și suspendăm antrenarea sau amânăm lansarea modelelor atunci când trebuie să încetinim”.

Parteneri

Articole recomandate din rețeaua noastră

Revista IoanaCum îți alegi perna după poziția de somn și saltea. Indiciile că nu îți mai oferă sprijinul necesarNews24Guvernul prelungește măsurile pentru alimentarea cu electricitate, cu ambele reactoare de la Cernavodă opriteDolce SportShaquille O’Neal a văzut de pe stadion cum România pierde cu 0-6 în PoloniaGetPonyMașini testate în SUA au trimis către terți date care pot identifica proprietariiBravonetHoroscop 1 octombrie 2026. Rac și Leu au spor la planuri și discuții aziLylaCe ingrediente merită căutate în produsele anti-aging și cum le integrezi în rutina ta