Eroarea care costa scump piață de consultanta. Gigantul EY retrage un raport plin cu date false

Piața globală a soluțiilor de securitate cibernetică și consultanță primește un duș rece legat de riscurile operaționale ale inteligenței artificiale. Gigantul EY a fost nevoit să retragă un studiu oficial despre vulnerabilitățile programelor de loialitate, după ce s-a descoperit că documentul conținea halucinații generate de AI și note de subsol complet false.

Riscul reputațional și costul datelor inventate

Dincolo de jena corporativă, incidentul expune o problemă sistemică privind costul real al implementării AI (vezi riscul reputațional și TCO-ul asociat validării datelor). Când firmele din Big Four generează rapoarte cu informații inventate pentru a vinde servicii, încrederea investitorilor și a clienților instituționali suferă o depreciere imediată. Până la urmă, cine suportă costurile unor decizii de business luate pe baza unor cifre fabricate de un algoritm lăsat nesupravegheat?

Iar lucrurile nu se opresc la un singur caz izolat. Anul trecut, rivalul Deloitte a trebuit să revizuiască un raport destinat unui guvern provincial canadian din cauza unor citări academice false. Dar nu doar consultanții calcă strâmb. Luna trecută, casa de avocatură Sullivan & Cromwell și-a cerut scuze oficial unei instanțe din New York, după ce un document depus cita greșit codul american al falimentului și inventa precedente juridice.

Simetria financiară care a trădat algoritmul

Documentul EY Canada, intitulat „Points of Attack: Uncovering Cyber Threats and Fraud în Loyalty Systems”, a fost demontat joi seară de grupul de cercetare GPTZero. Așa cum arată zf într-o analiză publicată recent, raportul estima piața programelor de loialitate la 200 de miliarde de dolari, indicând exact aceeași sumă astronomică și pentru valoarea punctelor nefolosite. E drept că entuziasmul tehnologic e mare, dar o astfel de simetrie financiară ar fi trebuit să ridice semne de întrebare oricărui analist junior.

Mai mult, peste șase note de subsol trimiteau către pagini web inexistente.

„Publicarea unui raport online este, practic, o formă de injectare de date în fondul de cunoştinţe care este internetul. Atunci când raportul include informaţii false, fie citări inventate, fie afirmaţii neadevărate, acesta poate «otrăvi fântâna» prin inducerea în eroare a cercetătorilor viitori, mai ales dacă raportul este publicat de o firmă de consultanţă cunoscută şi găzduit pe un site cu trafic ridicat.” – Om Ogale, Paul Esau și Alex Cui, cercetători GPTZero

În ciuda acestor vulnerabilități, corporațiile continuă să pompeze bugete masive în noile tehnologii. EY raporta în toamnă că veniturile sale legate de AI au crescut cu 30% față de anul precedent, având 15.000 de angajați alocați pe diverse proiecte de profil. Reacția oficială a companiei a venit prompt, precizând că documentul nu era legat de activitatea pentru un client specific.

„EY Canada tratează cu seriozitate acurateţea tuturor materialelor pe care le publică şi are un angajament la nivelul întregii organizaţii privind utilizarea responsabilă a AI.” – Reprezentanți EY

Compania a precizat oficial că analizează circumstanțele care au dus la publicarea acestui articol. Însă dilema rămâne valabilă pentru toți jucătorii din piață, inclusiv pentru birourile locale din România care adoptă rapid aceste unelte pentru eficientizare. Integrarea AI în fluxurile de lucru trebuie auditată riguros înainte ca o simplă eroare algoritmică să declanșeze daune financiare reale în portofoliile clienților.

Parteneri

Articole recomandate din rețeaua noastră

News24Quebec va avea un guvern separatist minoritar. Votul pentru independență este promis după plecarea lui TrumpDolce SportLionel Messi își ia rămas-bun de la naționala Argentinei în amicalul cu BeninGetPonyITP anual pentru autoturismele cu vechime de cel puțin 12 ani. Ce acte sunt necesare și cât costă verificareaBravonetIulius Town Timișoara oferă 300 de pachete pe zi studenților, până pe 14 octombrieLylaCum ajuți copilul într-o ceartă fără să rezolvi totul în locul lui și când trebuie să intervii fermRevista IoanaCe urmărești când cumperi medicamente online și de ce peptidele promovate pe rețele pot fi periculoase