DeepSeek, Alibaba și Moonshot AI primesc cereri privind siguranța sistemelor capabile să se îmbunătățească singure

Reprezentantul democrat din California Ro Khanna cere un tratat între Statele Unite și China care să interzică autoîmbunătățirea recursivă a sistemelor de inteligență artificială și să permită monitorizarea laboratoarelor care dezvoltă cele mai avansate modele. El recunoaște însă că un asemenea acord este puțin probabil în viitorul apropiat.

Khanna, principalul democrat din House Select Committee on China, a trimis scrisori Directorului National Intelligence, Jay Clayton, și companiilor chineze DeepSeek, Alibaba și Moonshot AI, potrivit The Verge. În aceste scrisori, el a întrebat o agenție americană de informații și companii chineze de AI dacă ar fi pregătite pentru un incident precum atacul agenților OpenAI asupra Hugging Face din această vară.

În scrisoarea către ODNI, agenția americană de informații, Khanna cere o evaluare a modului în care Statele Unite ar putea răspunde dacă un laborator AI și-ar pierde controlul asupra agenților săi. Acest scenariu a devenit tot mai frecvent în ultimele luni. El solicită și o analiză a abordării guvernului chinez privind evaluarea riscurilor catastrofale asociate inteligenței artificiale. Potrivit lui Khanna, informațiile ar urma să ajute Congresul și, ulterior, Casa Albă să elaboreze un acord cu omologii chinezi.

„interesele chineze nu ar putea fi mai diferite în atât de multe chestiuni”, scrie Khanna în scrisoarea către Jay Clayton, „dar în această preocupare distinctă niciuna dintre țări nu are de câștigat dacă omenirea pierde controlul asupra propriului destin.”.

Propunerea include interzicerea RSI și inspecții externe

În scrisorile către DeepSeek, Alibaba și Moonshot AI, Khanna cere documente despre eforturile companiilor de a atinge „superinteligența” și despre autoîmbunătățirea recursivă, cunoscută prin abrevierea RSI. Este vorba despre procesul prin care un sistem AI își îmbunătățește singur performanțele. Khanna recunoaște în scrisoare că este puțin probabil ca firmele chineze să răspundă integral solicitărilor sale.

El solicită informații despre măsurile de protecție și „comutatoarele de oprire” pentru aceste tehnologii, precum și despre disponibilitatea companiilor de a accepta inspecții realizate de o agenție neguvernamentală dacă tratatul ar fi încheiat.

Ca soluție intermediară, el vrea un grup de lucru format din experți americani și chinezi, care să formuleze recomandări de siguranță și metode pentru verificarea respectării lor.

Trump și Xi au acceptat dialogul, dar nu și reguli obligatorii

Inițiativa lui Khanna urmează întâlnirii de săptămâna trecută dintre președintele american Donald Trump și președintele chinez Xi Jinping. Khanna consideră că ambii lideri nu recunosc suficient riscul și urgența asociate inteligenței artificiale. El a declarat pentru The Verge că faptul că cei doi au acceptat să discute despre AI și să mențină dialogul este constructiv, dar insuficient. „Cred că a fost constructiv faptul că Trump și Xi Jinping au fost măcar de acord să discute despre AI și să mențină un dialog pe această temă, dar nu este nici pe departe suficient”, a declarat Khanna pentru The Verge într-un interviu de luni.

În dimineața întâlnirii, Trump a scris pe Truth Social că „superinteligența” urma să fie un subiect important al discuției cu Xi Jinping, dar că dorește ca situația să rămână exact așa cum este, susținând că aceasta este și poziția Chinei. „Superinteligența (SI) va fi un subiect important de discuție, dar vreau să o las exact așa cum este. Aceasta este și poziția Chinei”, a scris Donald Trump.

Trump urma să se întâlnească la Washington cu directori executivi din industria tehnologiei și AI. Khanna a criticat reuniunea planificată de marți dintre Casa Albă, președintele Camerei Reprezentanților, Mike Johnson, și mai mulți directori ai companiilor americane de tehnologie. El a spus că întâlnirea este un exercițiu de imagine menit să-i reasigure pe americani că firmele vor fi responsabile. „Cred că este un efort de a-i reasigura pe americani că aceste companii de tehnologie vor fi responsabile și este un exercițiu de imagine. Dar de ce să avem încredere că firmele care încearcă să-și maximizeze profiturile vor lua deciziile privind siguranța? Nu spun că sunt oameni răi, dar ați avea încredere în directorii din industria farmaceutică să stabilească regulile privind ce medicamente sunt sigure”, a spus Khanna despre întâlnirea de marți.

Khanna contestă faptul că societățile motivate să-și maximizeze profiturile ar trebui să stabilească singure regulile de siguranță. Mike Johnson a declarat la Fox Business că se aștepta ca discuția despre întâlnirea Trump-Xi să se concentreze pe găsirea unui „echilibru corect” al supravegherii, fără blocarea inovației, și a avertizat că Statele Unite ar putea pierde cursa AI în fața Chinei.

Principalele companii americane de inteligență artificială au cerut coordonarea cu China pentru încetinirea ritmului de dezvoltare. Senatorul Bernie Sanders a cerut, la rândul său, un tratat AI între cele două țări. John Moolenaar, președintele republican al House China Committee, s-a arătat sceptic că guvernul chinez și-ar respecta partea de acord. Trump și aliații săi s-au opus majorității reglementărilor și acordurilor.

Khanna spune că vrea să pună presiune pe companiile chineze

Khanna afirmă că DeepSeek, Alibaba și Moonshot AI nu au răspuns unei scrisori anterioare prin care li se cerea să se angajeze, alături de OpenAI și Anthropic, să încetinească dezvoltarea inteligenței artificiale. El spune că actualul demers urmărește să pună presiune publică asupra companiilor chineze și să declanșeze o dezbatere despre siguranță. Khanna a declarat pentru The Verge că scopul său este să „le facă de rușine” și să „declanșeze o dezbatere” între companiile chineze de AI despre siguranță. „Cel puțin ele participă la dezbaterea despre siguranță”, a spus Khanna.

Khanna consideră că Statele Unite pot conduce stabilirea standardelor de siguranță AI, deoarece multe modele chineze ar fi distilate din modele americane. El cere ca dezbaterea să fie condusă de tehnologi și ingineri care înțeleg domeniul, nu de directori interesați de profit sau de politicieni fără expertiză tehnică și preocupați mai ales de putere. Liderii lumii sunt „rupți de oamenii de știință și de tehnologii din propriile țări”, afirmă Khanna. „Trebuie ca tehnologii și inginerii care înțeleg acest domeniu să conducă dezbaterea, nu directorii executivi care au un interes pentru profit sau politicienii care nu înțeleg tehnologia și sunt preocupați în principal de putere”, a spus el.

Companiile chineze și ODNI nu au răspuns imediat solicitărilor de comentariu ale The Verge.

Khanna este și posibil candidat la președinția SUA.

Parteneri

Articole recomandate din rețeaua noastră

BravonetBianca Ghiurcă a izbucnit în lacrimi după imaginile cu Marco și Gabriella. A luat în calcul să pleceLylaCum alegi rolele termice pentru păr fin, des sau lung și de ce sunt recomandate aproximativ 15 minuteRevista IoanaJaluzeaua ridicată ajută la evacuarea avionului. De ce contează la decolare și aterizareNews24Fragmente dintr-un obiect, posibil dronă, au fost găsite lângă Gropeni. Radarul MApN nu a semnalat o intrare neautorizatăDolce SportRomânia caută primele puncte cu Bosnia și Herțegovina, sub arbitrajul portughezului Luís GodinhoGetPonyCinci campere ușoare transformă bena pickup-ului în spațiu de dormit. Prețurile pornesc de la 7.000 de dolari