Apocalipsa AI – Șeful Anthropic vrea 25 mld. $ și avertizează de riscuri catastrofale

Unul din greii industriei AI a pus cărțile pe masă. Omenirea trebuie să se trezească. Pericolele sunt catastrofale. Și vin cu o viteză amețitoare. Sistemele noastre pur și simplu nu sunt gata pentru șoc.

Dario Amodei, șeful Anthropic și rivalul principal al OpenAI, a detaliat totul. A făcut-o într-un eseu de aproape 20.000 de cuvinte publicat luni, scrie Ft. Mesajul său e direct: „Sistemele noastre sociale, politice și tehnologice nu posedă maturitatea de a mânui” puterea incredibilă pe care AI-ul ne-o va da. Iar asta se va întâmpla curând.

De la arme biologice la dictatură globală: scenariul de coșmar al unui ‘insider’

Avertismentul lui Amodei nu e SF. Deloc. El vorbește despre realități posibile în doar „câțiva ani”. Atunci vom vedea sisteme AI „mult mai capabile decât orice laureat al Premiului Nobel, om de stat sau tehnolog”. Riscurile? Imenense. De exemplu, indivizi rău intenționați ar putea crea arme biologice pentru a ucide milioane. Sau, „în cel mai rău caz, chiar să distrugă toată viața de pe Pământ”.

Scenariul e de coșmar.

„Un singuratic tulburat [care] poate comite un atac armat la o școală, dar probabil nu poate construi o armă nucleară sau elibera o plagă… va fi acum ridicat la nivelul de capabilitate al unui virolog cu doctorat”, explică Amodei. Dar pericolul nu se oprește aici. El aduce în discuție și o inteligență artificială care ar putea „s-o ia razna și să subjuge umanitatea”. Sau, la fel de grav, ar putea oferi puteri nemaiîntâlnite autoritarilor, deschizând calea spre „o dictatură totalitară globală”.

Conflict direct la Casa Albă: ‘Vânzarea de cipuri AI Chinei e ca și cum am vinde arme nucleare Coreei de Nord’

Această viziune sumbră îl plasează pe Amodei în conflict deschis cu cercul lui Donald Trump. David Sacks, omul lui Trump pentru AI și crypto, a avut deja dispute cu el pe tema reglementării industriei. Surprinzător sau nu, Trump însuși a semnat luna trecută un ordin executiv. Scopul? Să blocheze statele care vor să reglementeze companiile AI pe cont propriu, totul în numele inovației americane. Poziția lui Amodei este însă fermă, mai ales că a plecat de la OpenAI în 2020 fix din cauza unor divergențe cu Sam Altman pe siguranța AI. El a făcut o comparație dură: planurile de a vinde cipuri AI avansate Chinei sunt ca și cum am vinde arme nucleare Coreei de Nord. O declarație gravă. Foarte gravă. Arată o prăpastie uriașă între ce se gândește în Silicon Valley și ce se decide la Washington.

Săgeți către Elon Musk și rivali: ‘O neglijență tulburătoare’

Nici competiția nu scapă de critici. Amodei aruncă săgeți clare. Fără să-l numească, dar cu o aluzie directă la AI-ul Grok al lui Elon Musk, el a scris că „unele companii AI au arătat o neglijență tulburătoare față de sexualizarea copiilor în modelele actuale, ceea ce mă face să mă îndoiesc că vor avea înclinația sau abilitatea de a aborda riscurile de autonomie în modelele viitoare”. Un mesaj tăios. Sugerează că setea de profit și de popularitate îi orbește pe unii. Ignoră pericole clare, chiar și acum. Întrebarea rămâne. Dacă acum închid ochii la așa ceva, ce vor face când AI-ul va fi cu adevărat autonom și mult, mult mai puternic?

Valea de Aur a Apocalipsei? Silicon Valley, acuzat că monopolizează bogăția

Dar nu e vorba doar de pericole existențiale. Avertismentul lovește și în buzunarele oamenilor obișnuiți. Amodei vorbește despre joburi pierdute pe bandă rulantă. Despre o „concentrare a puterii economice” și a banilor în Silicon Valley. Ironia sorții? În timp ce lansează aceste alarme, propria sa companie, Anthropic, negociază o finanțare de 25 de miliarde de dolari. Poate chiar mai mult. O astfel de investiție ar duce evaluarea gigantului AI la o cifră amețitoare: 350 de miliarde de dolari, cu giganți ca Microsoft și Nvidia la masa investitorilor. Amodei recunoaște capcana. „AI este un premiu atât de strălucitor, încât este foarte dificil pentru civilizația umană să-i impună vreo restrângere”.

Parteneri

Articole recomandate din rețeaua noastră

GetPonyDrumurile publice. Despăgubiri pentru avarii și scutirea de taxe pentru competiții sportiveBravonetPoliția l-a reținut pe Ian 24 de ore în cazul incidentului în care ar fi urinat în fața publiculuiLylaTe trezești la 3 sau 4 dimineața și nu mai adormi? Ce obiceiuri poți schimba înainte să iei somnifereRevista IoanaCum reduci condensul de pe interiorul geamurilor și când ai nevoie de ajutor pentru mucegaiul din casăNews24PNL condiționează votul pentru Guvernul Luca Niculescu de evaluarea programului și a echipeiDolce SportDjokovic îl înfruntă pe De Minaur pentru trofeul de la Beijing după descalificarea lui Medvedev