Conform datelor recente din piață, sistemele de protecție integrate în modelele de inteligență artificială dezvoltate de giganți precum Meta și Google pot fi eliminate în mai puțin de zece minute. Instrumente software gratuite sunt utilizate la scară largă pentru a crea mii de versiuni modificate, complet lipsite de restricțiile originale de siguranță impuse de producători.
Vulnerabilități majore cu impact financiar direct
Miza financiară și operațională a acestui fenomen este uriașă. Companiile din domeniu au investit miliarde de dolari pentru dezvoltarea unor mecanisme de protecție complexe, cunoscute sub denumirea de „guardrails”, menite să împiedice utilizările periculoase ale tehnologiei. Dar aceste investiții masive de capital sunt practic anulate atunci când codul sursă este deschis. Un model AI fără filtre de securitate poate genera instantaneu cod pentru furtul informațiilor de pe carduri bancare, expunând direct sectorul financiar la riscuri de fraudă greu de cuantificat în bilanțurile anuale.
Și nu vorbim doar despre un scenariu teoretic de risc. Într-o analiză publicată recent de zf, se arată că teste realizate împreună cu grupul de siguranță AI Alice au confirmat aceste vulnerabilități critice. O versiune modificată a modelului open-source Gemma 3 de la Google a răspuns la întrebări privind dispersarea unui gaz nociv într-un spațiu aglomerat și a produs texte care descriau abuzuri sexuale asupra minorilor.
Cifrele vorbesc de la sine.
Investiții de miliarde anulate prin instrumente gratuite
Contextul ne arată o escaladare rapidă a acestor riscuri tehnologice. Încă din luna aprilie, compania Anthropic susținea că modelul său Claude Mythos identificase vulnerabilități în aproape toate marile sisteme de operare și browsere web. Spre deosebire de sistemele proprietare precum ChatGPT sau Claude, unde codul intern nu este accesibil publicului larg, modelele open-source reduc constant diferența tehnologică față de sistemele comerciale avansate. Uneori, acest decalaj de performanță este recuperat în doar șase până la douăsprezece luni.
Tehnici specifice, precum cea denumită „abliteration”, permit eliminarea rapidă a protecțiilor din modelele open-source, care pot fi descărcate și modificate liber de dezvoltatori. Pe baza unui instrument disponibil public pe platforma GitHub, restricțiile modelului Llama 3.3 dezvoltat de Meta au fost complet eliminate. Procesul nu a necesitat hardware specializat, a folosit exclusiv instrumente gratuite și a fost realizat în mai puțin de zece minute. Imediat după modificare, versiunea alterată a oferit instrucțiuni detaliate despre obținerea unor substanțe toxice precum ricina.
Până la urmă, cum pot autoritățile să reglementeze un cod care rulează descentralizat pe calculatoarele a mii de programatori anonimi? Riscul de securitate cibernetică se transferă automat și către piața din România, unde băncile comerciale și corporațiile sunt forțate să își recalibreze urgent bugetele de apărare IT pentru a face față unor atacuri malware complexe, generate automat de aceste modele AI modificate.
Răspândirea modelelor alterate complică eforturile instituționale de a reglementa inteligența artificială direct la sursă. Rămâne neclar cum vor reuși viitoarele directive europene să impună conformitatea tehnică, din moment ce un model AI, odată descărcat de pe serverele oficiale, iese definitiv de sub controlul comercial și legal al creatorului său.
Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News
Parteneri
Articole recomandate din rețeaua noastră
GetPonyMacron și Merz pregătesc o cerere comună pentru mai mult loc acordat motoarelor termice după 2035
BravonetIan cere iertare după ce a urinat în timpul concertului de la Arenele Romane
LylaDiagnosticele de cancer cresc înainte de 50 de ani. Ce explică tendința și cum poți reduce riscul
Revista IoanaCum pregătești un sos dens din 3 kilograme de roșii. Metoda lui Claudio Del Principe, fără blender
News24Ilie Bolojan respinge participarea PNL la cabinetul propus de Luca Niculescu
Dolce SportLaszlo Sepsi povestește cum l-a lovit pe Messi în genunchi. Argentinianul a ieșit pe targă
