Compania americană de inteligență artificială Anthropic a publicat un anunț de angajare de-a dreptul neobișnuit: caută un expert în arme chimice și explozivi de mare putere. Scopul declarat este prevenirea unei „utilizări abuzive catastrofale” a propriului software, pe fondul temerilor că instrumentele sale ar putea învăța pe oricine cum să fabrice arme periculoase.
Un post neobișnuit pe LinkedIn
Anunțul de recrutare, publicat pe LinkedIn, specifică foarte clar cerințele. Candidații trebuie să aibă o experiență de cel puțin cinci ani în „apărarea împotriva armelor chimice și/sau a explozivilor”. Mai mult, e necesară și cunoașterea „dispozitivelor de dispersie radiologică”, cunoscute popular drept bombe murdare.
compania se teme că cineva ar putea folosi AI-ul pentru a obține rețeta unei arme chimice sau radioactive. Iar rolul acestui nou angajat este să se asigure că măsurile de protecție implementate sunt suficient de solide pentru a preveni un astfel de scenariu. Reprezentanții firmei au declarat că rolul este similar cu alte posturi din domenii sensibile pe care le-au creat deja.
O industrie cu două fețe
Anthropic nu este singura companie de IA care adoptă această strategie. Un post similar a fost publicat și de OpenAI, dezvoltatorul celebrului ChatGPT. Numai ca lucrurile stau puțin diferit la ei. Pe site-ul de recrutare, OpenAI listează un post vacant pentru un cercetător în „riscuri biologice și chimice”, oferind un salariu de până la 455.000 de dolari. Suma este aproape dublă față de cea oferită de Anthropic.
E drept că unii experți sunt îngrijorați de riscurile acestei abordări. Ei avertizează că, în esență, oferi instrumentelor de IA informații detaliate despre arme, chiar dacă le-ai cerut explicit să nu le folosească. Cum vine asta? V-ați gândit vreodată că pentru a învăța un AI să *nu* facă o bombă, trebuie mai întâi să-l înveți *cum* se face una?
O dilemă reală.
Conflict direct cu Pentagonul
Problema a căpătat un caracter urgent, în special pentru că guvernul SUA apelează tot mai des la firmele de IA în contextul războiului din Iran și al operațiunilor militare din Venezuela. Anthropic a ajuns chiar să inițieze o acțiune în justiție împotriva Departamentului Apărării al SUA. Compania a fost desemnată drept un risc pentru lanțul de aprovizionare (o etichetă similară cu cea primită de Huawei) după ce a insistat că sistemele sale nu trebuie utilizate nici în arme complet autonome, nici în supravegherea în masă a americanilor.
Iar co-fondatorul Anthropic, Dario Amodei, scria încă din februarie că nu crede că tehnologia este încă suficient de bună și că nu ar trebui utilizată în aceste scopuri. Replica de la Casa Albă a fost tranșantă: armata SUA nu va fi condusă de companii de tehnologie.
Claude, AI-ul deja pe front
Deși OpenAI a declarat că este de acord cu poziția Anthropic, a negociat apoi propriul contract cu guvernul SUA, care, potrivit companiei, nu a intrat încă în vigoare. O mișcare cel puțin interesantă.
Dar, dincolo de declarații și procese, asistentul AI al Anthropic, numit Claude, nu a fost deloc scos din uz. Ba chiar este în prezent încă integrat în sistemele furnizate de Palantir și utilizat de SUA în războiul dintre SUA, Israel și Iran.
Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News
Parteneri
Articole recomandate din rețeaua noastră
BravonetPaula Cojocari explică de ce divorțează de Stelian Ogică după doar patru luni de căsnicie
LylaPeste 2 milioane de cancere într-un an au fost cauzate de infecții. Ce măsuri de prevenție recomandă medicii
Revista IoanaCe poți mânca pentru sănătatea intestinală și cum ajungi la reperul de 25-30 de grame de fibre pe zi
News24Un adolescent de 15 ani a rămas fără un braț în urma exploziei unei grenade la un protest din Franța
Dolce SportHagi pregătește România pentru Suedia fără Drăgușin și Ghiță, după 0-6 cu Polonia
GetPonyCând poate poliția să rețină talonul și cum se recuperează. Ce înseamnă dovada de circulație pentru 15 zile
