Compania Anthropic a anunțat oficial modelul de inteligență artificială Mythos Preview, dar vestea a venit la pachet cu o mișcare neașteptată. A convocat un consorțiu industrial, denumit Project Glasswing, pentru a gestiona implicațiile de securitate cibernetică ale noii tehnologii, aducând la aceeași masă rivali precum Microsoft, Apple și Google.

Un AI prea bun la cod

„Claude Mythos preview este un salt deosebit de mare,” a declarat marți Dario Amodei, CEO-ul Anthropic, într-un videoclip de lansare. E drept că modelul nu a fost creat pentru a sparge sisteme informatice. „Nu l-am antrenat special pentru a fi bun la cyber. L-am antrenat să fie bun la cod, dar ca efect secundar al faptului că este bun la cod, este bun și la cyber.”

modelele AI dezvoltate de diverse companii au devenit din ce în ce mai capabile să descopere vulnerabilități în codul software și să propună fie soluții, fie strategii de exploatare. Este clasicul joc de-a șoarecele și pisica din securitate, dus la un alt nivel. Amodei a adăugat că „modele mai puternice vor veni de la noi și de la alții. Și deci avem nevoie de un plan pentru a răspunde la asta.”

Proiectul Glasswing intră în scenă

Aici intervine Project Glasswing. Grupul include, pe lângă giganții menționați, și Amazon Web Services, Linux Foundation, Cisco, Nvidia, Broadcom și peste 40 de alte organizații din tehnologie, securitate cibernetică, infrastructură critică și sectorul financiar. Toți acești membri vor avea acces privat la model, care nu este încă disponibil publicului larg.

Dar ce înseamnă, pe bune, această pregătire? Ideea este de a oferi dezvoltatorilor platformelor tehnologice fundamentale timp să testeze Mythos Preview pe propriile sisteme. Astfel, pot atenua vulnerabilitățile și lanțurile de atac pe care modelul le descoperă în simulări, înainte ca astfel de unelte să ajungă pe mâini greșite.

„Mesajul real este că nu este vorba despre model sau despre Anthropic,” a declarat pentru WIRED Logan Graham, șeful echipei de frontier red team a companiei. „Trebuie să ne pregătim acum pentru o lume în care aceste capacități vor fi disponibile pe scară largă în 6, 12, 24 de luni. Multe lucruri ar fi diferite în ceea ce privește securitatea. Multe dintre presupunerile pe care am construit paradigmele moderne de securitate s-ar putea prăbuși.”

Implicații uriașe pentru securitate

Iar capacitățile noului model sunt, se pare, impresionante. Pe lângă descoperirea de vulnerabilități (inclusiv generarea de lanțuri de atac potențiale), Mythos Preview este capabil de dezvoltarea avansată de exploit-uri, teste de penetrare, evaluarea securității endpoint-urilor, căutarea de configurări greșite ale sistemelor și chiar evaluarea fișierelor binare software fără a avea acces la codul sursă.

„Am văzut Mythos Preview realizând lucruri pe care un cercetător senior în securitate le-ar putea realiza,” spune Graham. „Acest lucru are implicații foarte mari pentru modul în care astfel de capacități ar trebui lansate. Dacă nu se face cu atenție, acest lucru ar putea fi un accelerator vizibil pentru atacatori.”

Pericolul este real.

Rivalii, de aceeași parte a baricadei

Numai că, în fața acestei amenințări, până și rivalii tradiționali par dispuși să colaboreze. „Google este încântată să vadă această inițiativă de securitate cibernetică inter-industrială luând naștere,” a afirmat Heather Adkins, vicepreședintele de inginerie de securitate la Google. „Credem de mult timp că AI-ul aduce noi provocări și deschide noi oportunități în apărarea cibernetică.”

Entuziasmul este împărtășit și de Microsoft, mai ales că Anthropic susține că utilizarea Mythos Preview a început deja să descopere mii de vulnerabilități critice, unele dintre ele bug-uri vechi de zeci de ani, trecute cu vederea chiar și în cel mai analizat cod. „Pe măsură ce intrăm într-o fază în care securitatea cibernetică nu mai este limitată de capacitatea pur umană, oportunitatea de a folosi AI-ul în mod responsabil pentru a îmbunătăți securitatea și a reduce riscul la scară largă este fără precedent,” a declarat Igor Tsyganskiy, CISO global la Microsoft. „Alăturarea la Project Glasswing, cu acces la Claude Mythos Preview, ne permite să identificăm și să atenuăm riscurile din timp.”

Logan Graham de la Anthropic simte urgența momentului. „Probabil cel mai important lucru pe care trebuie să-l facă grupul este să identifice toate întrebările care necesită răspunsuri și apoi să găsească răspunsurile,” a subliniat el.

„Project Glasswing este punctul de plecare. Va eșua dacă va fi doar o mână de companii care folosesc un model. Trebuie să se transforme în ceva și mai mare.”

Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News

Parteneri

Articole recomandate din rețeaua noastră
Anthropic Apple Google Microsoft Project Glasswing