Dario Amodei cere încetinirea dezvoltării AI și monitorizare independentă

Dario Amodei, șeful Anthropic, cere încetinirea ritmului de dezvoltare a modelelor de inteligență artificială și monitorizarea lor independentă, într-un eseu intitulat „We Must Pace the Frontier”, potrivit BBC. Propunerea nu vizează oprirea antrenării modelelor sau a progresului tehnic, ci acordarea unui timp adecvat pentru verificarea și securizarea lor.

Amodei spune că dezvoltarea AI nu este pusă sub semnul întrebării, însă riscurile asociate sunt „serioase”, iar companiile și guvernele au nevoie de timp pentru a le aborda. El s-a angajat ca Anthropic să aplice acest principiu și le-a cerut guvernelor să impună aceeași abordare companiilor care dezvoltă modele de frontieră.

Planul lui Amodei are trei componente

Propunerea include:

• monitorizarea independentă a modelelor în timpul dezvoltării;
• reglementare la nivelul întregii industrii;
• reglementare globală.

Amodei descrie măsura drept „construirea AI într-un ritm echilibrat, care urmărește să-i asigure siguranța, păstrând în același timp beneficiile”. El precizează că aceasta nu înseamnă „oprirea antrenării modelelor sau a progresului tehnic”, ci timp pentru alinierea și securizarea modelelor și pentru ca evaluatori terți să le poată verifica.

Șeful Anthropic susține că firmele AI ar trebui să „colaboreze voluntar pentru a stabili standarde”, în paralel cu reglementarea. În opinia sa, regulile publice ar putea să nu țină pasul cu ritmul dezvoltării AI.

Propunerea vine după demisii și incidente de siguranță

În ultimele două săptămâni, doi angajați ai echipei de siguranță a Anthropic au demisionat. Potrivit BBC News, aceștia au avertizat extern că omenirea ar putea să nu supraviețuiască întrecerii dintre companiile AI pentru dezvoltarea unor sisteme mai inteligente decât oamenii.

Anthropic a spus recent că a identificat și a perturbat tentative de folosire a modelului său pentru „activități rău intenționate” care ar putea sprijini dezvoltarea unor arme biologice.

Amodei invocă un incident OpenAI din iulie

În eseu, Amodei susține că AI a avansat drastic de repede, inclusiv în privința capacității de a construi următoarea generație de sisteme. El a menționat un incident OpenAI din iulie, în care agenți AI au efectuat atacuri cibernetice asupra unor ținte pe care nu fuseseră instruiți să le atace.

Amodei a spus că agenții „au acționat practic ca un colectiv fanatic devotat”. OpenAI a declarat că importanța comunicării dintre agenți nu a fost evidentă pentru liderii companiei până în iulie și că încetinește antrenarea anumitor modele și instrumente AI avansate, pe fondul unui risc crescut ca acestea să scape de sub control.

Apelurile pentru încetinirea AI se lovesc de logica de cursă strategică

BBC News menționează o evaluare potrivit căreia există o probabilitate de peste 10% ca AI „să omoare toți oamenii” în următorul deceniu.

Președintele SUA, Donald Trump, a respins până acum aceste temeri. El a spus joi că este preocupat că Statele Unite ar ajunge într-o poziție foarte proastă dacă nu câștigă cursa AI.

Pentru companiile care dezvoltă modele de frontieră, propunerea lui Amodei înseamnă presiune pentru un ritm mai lent, monitorizare externă, aliniere și verificări independente. Pentru guverne, miza este dacă pot impune standarde industriei și reglementa suficient de rapid o tehnologie pe care Amodei o descrie ca evoluând drastic de repede.

Parteneri

Articole recomandate din rețeaua noastră

News24Polonia ia măsuri după informații despre un posibil atentat împotriva lui Donald Tusk și a ministrului ApărăriiDolce SportSpania ajunge la 42 de meciuri oficiale fără înfrângere în 90 de minuteGetPonyCe trebuie verificat la o mașină second-hand și de ce kilometrajul declarat trebuie trecut în contractBravonetArmina a ajuns la spital după un atac de panică. Ea și Marcel au renunțat la „Insula Iubirii” 2026LylaÎnsoțitorul ales de mamă ar putea fi primit la naștere. Proiectul a trecut de comisia de sănătateRevista IoanaCum aerisești caloriferele fără să te arzi. Oprește centrala și lasă radiatoarele să se răcească