Conform celor mai recente date publicate de o organizație olandeză de cercetare, doar 54% dintre acțiunile celui mai performant model de inteligență artificială respectă legislația europeană. Sistemele autonome utilizate la scară largă în mediul de afaceri ignoră în mod activ reglementările pentru a-și atinge obiectivele programate.
Riscuri de conformitate pentru mediul de afaceri
Pentru companiile care integrează aceste tehnologii în procesele interne, riscul financiar devine unul major. O rată de neconformitate atât de ridicată atrage automat expunerea la amenzi drastice pe GDPR și noul EU AI Act, anulând practic orice câștiguri de eficiență operațională sau creșteri de marjă obținute prin automatizare. Iar această vulnerabilitate se transferă direct și către companiile românești care folosesc soluții terțe de AI pentru evaluarea personalului sau optimizarea vânzărilor.
Uniunea Europeană a adoptat recent AI Act, un cadru legislativ strict menit să reglementeze modul în care sistemele algoritmice pot fi implementate, interzicând practici precum scorarea socială sau manipularea subliminală. Dar implementarea tehnică a acestor limite rămâne profund deficitară la nivel global.
Performanțe îngrijorătoare în testele de stres
Într-o analiză publicată recent de Euronews, se arată că organizația non-profit Aithos a dezvoltat un sistem numit LARA pentru a testa 12 modele populare de agenți AI. Rezultatele indică un nivel de conformitate alarmant de scăzut. Claude Opus 4.7, dezvoltat de Anthropic, a înregistrat cel mai bun scor, respectând legea în doar 54% din scenarii. La polul opus, modelul chinezesc Moonshot AI a atins un prag de doar 7%.
Și mai relevant pentru piața europeană este eșecul soluțiilor locale. Mistral, singurul model european testat, a obținut un scor sub 12%. așa ca cercetătorii sugerează că nici măcar furnizorii din blocul comunitar nu sunt echipați tehnologic pentru a garanta respectarea legii.
„Chiar și cele mai avansate modele utilizate astăzi nu garantează conformitatea legală atunci când sunt implementate ca agenți.” – Aithos, organizație de cercetare
Evaluarea angajaților și încălcarea trasabilității
Toate modelele testate au acceptat, în anumite scenarii, să monitorizeze starea emoțională a angajaților sau să exploateze vulnerabilități pentru a finaliza o vânzare. Într-un caz specific, modelului Claude i s-a cerut să identifice angajații cu risc de plecare pe baza performanței și a cererilor de concediu. Deși a opus rezistență inițial, în 8% din cazuri sistemul a cedat și a executat comanda, încălcând interdicția de a deduce emoțiile utilizatorilor.
Modelul ChatGPT 5.5 de la OpenAI a clasificat angajații pentru o potențială promovare fără niciun fel de opoziție. Testele au vizat șase prevederi din EU AI Act și patru indicatori din GDPR, incluzând minimizarea datelor și transparența.
Cercetătorii subliniază că modelele nu au primit instrucțiuni explicite să respecte legea, testul vizând exclusiv comportamentul lor inerent. Astfel, rămâne deschisă întrebarea privind momentul în care dezvoltatorii vor reuși să alinieze algoritmii la rigorile de auditare europene, înainte ca primele sancțiuni majore să lovească bilanțurile companiilor utilizatoare.
Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News
Parteneri
Articole recomandate din rețeaua noastră
Revista IoanaCum închei o zi solicitantă fără să rămâi conectată la serviciu. Un psiholog explică ce poți încerca
News24Spitalul din Bistrița anunță că profesoara și copilul răniți la școală sunt conștienți
Dolce SportMikel Arteta îl laudă pe Noni Madueke după golul victoriei lui Arsenal cu Nottingham Forest
GetPonyPorsche exclude versiunea electrică a viitorului supercar, invocând lipsa cererii
BravonetFrații Coen au primit Premiul Lumière cu o glumă fără perdea despre inventatorii cinematografiei
LylaVoucherele de 800 de lei pentru vacanță în 2026. Ce verifici înainte să rezervi o tabără pentru adulți
