Până acum, modelele AI de securitate funcționau ca instrumente de analiză. Un test practic cu o versiune modificată a modelului GLM 5.3 arată însă trecerea la acțiuni autonome: agentul a identificat aproximativ 12 sisteme hardware într-o rețea locală, le-a catalogat vulnerabilitățile și a încercat singur să obțină acces, conform WIRED.
Modelul a rulat prin software-ul CyberStrike și a analizat dispozitivele din aceeași rețea. Această capacitate poate scurta auditul tehnic, dar reduce și timpul necesar unui atacator pentru recunoașterea inițială a unei ținte.
Modelele AI de frontieră pot identifica vulnerabilități de tip zero-day în baze mari de cod și pot scana computere cu viteză foarte mare. Experimentul a folosit un model open-weight, adică un model ale cărui componente pot fi modificate local.
Modificarea a fost realizată prin „abliteration”, un proces care elimină tiparele interne asociate refuzului unor solicitări și restricțiilor de securitate. Abliteration AI furnizează astfel de modele fără aceste restricții, inclusiv o versiune a modelului agentic de programare GLM 5.3 dezvoltat de Z.ai, companie condusă de Devon.
Agentul a început cu auditul rețelei și a ajuns la încercări de autentificare
În rețeaua testată, agentul a găsit o imprimantă configurată astfel încât orice persoană din rețea să se poată conecta la ea. Documentele din coada de imprimare puteau include declarații fiscale, extrase bancare sau documente medicale.
Sistemul audio Wiim divulga informații, inclusiv ultima melodie redată, și permitea oricărei persoane din rețea să redea alt conținut sau să modifice volumul. Agentul a detectat și mai multe dispozitive din categoria internet of things, sau IoT, cu firmware care necesita actualizare.
Pentru securizarea rețelei, modelul a recomandat actualizarea firmware-ului, securizarea imprimantei și mutarea dispozitivelor IoT, precum boxele inteligente, într-o rețea pentru oaspeți. Astfel, un echipament compromis nu ar putea vedea computerele personale din rețeaua principală.
Într-un director cu proiecte dezvoltate prin „vibe coding”, agentul a identificat zeci de probleme, printre care credențiale API neprotejate și configurări greșite care ar fi putut permite unui atacator să trimită e-mailuri.
După scanarea unui sistem Linux, AI-ul a considerat mașina relativ sigură, dar a dedus un nume de utilizator funcțional pe baza numelor altor sisteme din rețea. A încercat parole evidente, care nu au funcționat, și s-a oferit să scrie un script pentru un atac prin forță brută.
Ulterior, agentul a găsit o cheie criptografică pe mașină și a folosit-o pentru a se conecta fără parolă. Apoi a început să caute parola necesară pentru a obține acces root. Câteva ore mai târziu, după reconectarea la rețeaua Wi-Fi, a identificat routerul și a încercat să se conecteze folosind mai multe combinații comune de tip „admin/parole”.
Modelele fără controale pot ajuta apărarea, dar cresc riscul de atac
Devon, directorul Abliteration AI, susține că modelele fără restricții pot ajuta apărarea, deoarece pot fi folosite pentru identificarea vulnerabilităților și pentru imitarea comportamentului hackerilor, escrocilor și agenților AI autonomi.
Într-o declarație pentru WIRED, acesta a ridicat problema companiilor de infrastructură critică, de la companii aeriene la bănci, care implementează agenți AI într-un ritm rapid și a întrebat cum pot fi împiedicați actorii rău intenționați să folosească acești agenți într-un mod abuziv.
Shaanan Cohney, specialist în informatică la Tufts University, care se ocupă de securitate cibernetică și drept, consideră că se apropie o confruntare majoră în domeniul securității cibernetice. Atacatorii adoptă adesea rapid tehnologiile noi, iar apărătorii trebuie să elimine toate vulnerabilitățile, în timp ce unui atacator îi este suficient să găsească una singură.
Cohney a comparat securitatea cu apărarea unui castel: pentru protecție, zidul nu trebuie să aibă găuri sau cărămizi slăbite, în timp ce pentru invazie este suficientă o singură cărămidă slăbită.
Pe termen lung, Cohney consideră că proliferarea modelelor capabile de operațiuni cibernetice ar putea face software-ul mai sigur. Multe companii nu își consolidează însă apărarea, deoarece au și alte priorități.
Aleksander Mądry, profesor la MIT specializat în siguranța AI și aflat în concediu pentru a lucra la OpenAI, consideră că instrumentele open-source și independente vor avea un rol în securitate, inclusiv datorită rezistenței lor în timp.
Acesta a declarat pentru WIRED că va exista loc pentru instrumente open-source și independente, deoarece aceste abordări au o rezistență reală în lumea securității.
Mądry avertizează că administratorii infrastructurilor critice, precum centralele electrice sau piețele financiare, ar trebui să aibă acces la modele AI mai puternice decât utilizatorii obișnuiți sau atacatorii lipsiți de experiență.
Anthropic Mythos și OpenAI Astra funcționează în mod similar: sunt modele convenționale cărora le lipsesc controalele cibernetice obișnuite, iar accesul este limitat deocamdată la clienți de încredere. Ambele companii oferă și acces mai larg la modele cu un nivel mediu de restricții, pentru verificarea codului și a sistemelor.
Autorul experimentului a oprit modelul fără restricții și a revenit la o versiune cu controale obișnuite. Claude Code și Codex limitează operațiunile de securitate cibernetică pe care le pot efectua, inclusiv configurarea firewall-ului unui laptop.
Citește și:
Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News
Parteneri
Articole recomandate din rețeaua noastră
Dolce SportGianni Infantino este acuzat de o plată suplimentară de 1,58 milioane de euro neraportată de FIFA
GetPonyTesla trece la Assisted Driving după discuțiile cu Germania. Funcțiile din România depind în continuare de aprobări
BravonetToma Cuzin, reținut după accidentul de la Peretu, a avut un rezultat pozitiv la DrugTest
LylaSprijinul emoțional oferit de un chatbot poate duce la dependență afectivă
Revista IoanaConstanța are 130 de cazuri de hepatită A. Ce recomandări de igienă poți aplica acasă
News24APIA a achitat sprijinul apicol din 2026 pentru cererile autorizate după controale
