Europa încearcă să limiteze utilizarea inteligenței artificiale în societate

### UE propune interzicerea utilizării recunoașterii faciale și a algoritmilor de manipulare a comportamentului uman

#### Reguli stricte pentru inteligența artificială cu risc ridicat

Comisia Europeană (CE) a anunțat o serie de reglementări menite să restricționeze utilizarea tehnologiilor de inteligență artificială (IA), inclusiv interzicerea recunoașterii faciale în scopuri de supraveghere și a algoritmilor care influențează comportamentul uman.Aceste propuneri,care urmează să fie publicate oficial,vizează stabilirea unor norme stricte pentru sistemele considerate cu risc ridicat.

#### Definiții vagi și lacune în reglementare

Printre criticile aduse acestor propuneri se numără ambiguitatea definițiilor, ceea ce ar putea duce la interpretări variate.Daniel Leufer, analist în politici europene, a subliniat pe Twitter că întrebările legate de ce constituie un prejudiciu pentru indivizi rămân fără răspuns clar.

Lista sistemelor IA interzise include:

• Algoritmi care manipulează comportamentul sau deciziile oamenilor în mod dăunător.
• Sisteme de supraveghere aplicate fără discriminare.
• Tehnologii folosite pentru notarea socială.
• sisteme care exploatează informații personale pentru a viza vulnerabilitățile indivizilor sau grupurilor.

#### Supraveghere sporită pentru IA cu risc ridicat

Pentru sistemele clasificate ca având un nivel ridicat de risc, statele membre ale Uniunii Europene vor trebui să implementeze măsuri mai riguroase.Acestea includ desemnarea unor organisme responsabile cu testarea și certificarea acestor tehnologii. Companiile care dezvoltă servicii interzise sau nu oferă informații corecte pot fi sancționate cu amenzi semnificative, ajungând până la 4% din veniturile globale.Exemplele de IA considerate riscante includ:

• Sisteme destinate prioritizării intervențiilor în situații de urgență.
• Algoritmi utilizați la admiterea în instituțiile educaționale.
• Tehnologii folosite în recrutare.
• sisteme ce evaluează solvabilitatea creditului.

Leufer sugerează extinderea acestor reguli pentru toate sistemele IA din sectorul public, având în vedere că cetățenii nu au opțiunea de a evita interacțiunea cu aceste tehnologii.

#### Mecanisme suplimentare și responsabilitate

Comisia Europeană propune ca noile sisteme IA să beneficieze de supraveghere umană constantă și să dispună de mecanisme rapide prin care pot fi dezactivate dacă este necesar. Herbert Swaniker, avocat specializat pe legislația tehnologică, afirmă că aceste cerințe vor impune modificări fundamentale ale modului în care sunt concepute soluțiile bazate pe IA.

Michael Veale, expert al University College London, atrage atenția asupra unei clauze esențiale ce obligă organizațiile să informeze despre utilizarea deepfake-urilor – o aplicație controversată a tehnologiei AI destinată manipulării imaginilor reale.

#### Provocările legislative viitoare

Legislația europeană se confruntă cu provocări semnificative între asigurarea unui cadru favorabil inovației tehnologice și protejarea drepturilor fundamentale ale cetățenilor. Centrul European pentru Drepturile Non-Profit avertizează asupra neclarităților existente în proiectul legislativ actual și sugerează adoptarea unei abordări mai nuanțate privind evaluarea riscurilor asociate sistemelor AI.

Detaliile finale ale reglementării ar putea suferi modificări înaintea anunțului oficial programat săptămâna viitoare; totuși, implementarea efectivă va necesita timp considerabil înainte ca aceste reguli să devină lege.

Parteneri

Articole recomandate din rețeaua noastră

News24Luca Niculescu anunță pregătirea unui plan contra violenței școlare după atacul de la BistrițaDolce SportFlorinel Coman ar avea un acord pentru FCSB, condiționat de rezilierea cu Al-GharafaGetPonyTesla Model Y depășește Dacia Sandero în bilanțul european după nouă luniBravonetDecorurile filmelor Beatles ale lui Sam Mendes vor deveni atracție pentru fani la Liverpool în 2028LylaCreierul copiilor mici răspunde diferit la joaca în doi față de un film urmărit cu părinteleRevista IoanaCe verifici acasă înainte să pleci și care sunt cele 7 semne că instalația electrică are nevoie de control