Unele utilizări „inacceptabile” ale inteligenței artificiale vor fi interzise în Europa

Foto: playtech.ro

Unele utilizări „inacceptabile” ale inteligenței artificiale vor fi interzise în Europa în baza propunerilor dezvăluite miercuri.

Regulile Comisiei Europene ar interzice „sistemele de IA considerate o amenințare clară pentru siguranța, mijloacele de trai și drepturile oamenilor”, a spus acesta.

De asemenea, propune reguli mult mai stricte privind utilizarea datelor biometrice – cum ar fi recunoașterea facială folosită de forțele de ordine, care ar fi limitată.

Încălcarea regulilor ar putea duce la amenzi de până la 6% din cifra de afaceri globală.

Pentru cele mai mari companii de tehnologie, aceasta ar putea ajunge la miliarde.
Șefa digitală a comisiei, Margrethe Vestager, a declarat: „În ceea ce privește inteligența artificială, încrederea este o necesitate, nu un lucru plăcut de a avea”.

Iar UE a dezvoltat „noi norme globale” pentru IA.

„Respectând viitorul și favorizând inovarea, regulile noastre vor interveni acolo unde este strict necesar – atunci când siguranța și drepturile fundamentale ale cetățenilor UE sunt în joc”, a spus ea.

Proiectul de regulă se confruntă cu un proces de aprobare îndelungat și încă nu este definitiv.
Multe dintre ideile de bază au fost dezvăluite săptămâna trecută, înainte de anunț, ceea ce a determinat îngrijorarea comunității tehnologice că ar putea înăbuși inovația.

„Regimul propus de Comisia Europeană nu va sta bine pentru mulți din comunitate”, a declarat Nikolas Kairinos, director executiv al Soffos.ai, care realizează o IA pentru formarea angajaților în afaceri.

„Definițiile libere precum „risc ridicat” sunt vagi.

„O abordare ambiguă, cu bifă, a reglementării care este supravegheată de indivizi care s-ar putea să nu aibă o înțelegere aprofundată a tehnologiei IA va inspira cu greu încredere.”
Herbert Swaniker, expert în tehnologie la firma de avocatură Clifford Chance, a declarat că amenzile puternice propuse conferă reglementărilor IA mult mai multă putere – și au un domeniu de aplicare „extrem de ambițios”.

„Sunt multe de făcut pentru a clarifica unele dintre aceste concepte”, a spus el.

„Amenzile sunt un lucru – dar cum vor face față vânzătorii costurile semnificative și aportul uman necesar pentru a face conformitatea o realitate?

„Propunerile îi vor obliga pe vânzători să regândească fundamental modul în care este procurată și proiectată IA.”
Regulile ar reglementa pentru ce a fost utilizată IA, mai degrabă decât tehnologia în sine, a spus dna Vestager.

Însă „sistemele sau aplicațiile IA care manipulează comportamentul uman pentru a eluda liberul arbitru al utilizatorilor”, inclusiv „tehnicile subliminale”, ar intra în categoria „risc inacceptabil” interzis.

Cei care operează în zone cu risc ridicat – cum ar fi infrastructura națională, educația, ocuparea forței de muncă, finanțele și aplicarea legii – s-ar confrunta cu o serie de obstacole înainte de a putea fi utilizate.

De exemplu, software-ul de sortare a CV-urilor în sistemele de recrutare sau de notare a creditelor pentru împrumuturi bancare ar trebui să facă acest lucru;

  • dovedește acuratețea și corectitudinea lor
  • țin evidența tuturor activităților lor
  • au „supravegherea umană adecvată”

Și toate sistemele de „identificare biometrică la distanță” – cum ar fi utilizarea recunoașterii faciale de către poliție, dar care nu folosesc o amprentă digitală pentru a debloca un telefon sau o scanare a feței la controlul pașapoartelor – ar fi „supuse unor cerințe stricte”.

„Utilizarea lor în direct în spații accesibile publicului în scopuri de aplicare a legii este interzisă în principiu”, a spus comisia, cu rare excepții, cum ar fi o „iminentă amenințare teroristă”.

Dar marea majoritate a tehnologiei IA ar intra în categoria cu risc scăzut, cu reguli mult mai puțin stricte.

Sisteme bazate pe reguli
Chatbot-urile din serviciul pentru clienți, de exemplu, ar trebui pur și simplu să arate clar că oamenii interacționează cu o mașină.

Și sistemele simple bazate pe reguli, cum ar fi filtrarea e-mailurilor spam, nu ar avea restricții.

Parlamentul European și statele membre ale UE vor lua în considerare ambele propuneri – și este probabil să se schimbe ca parte a acestui proces.

Dar dacă ar fi adoptate, reglementările se vor aplica „în interiorul și în afara UE” dacă un sistem IA ar fi disponibil în UE „sau utilizarea acestuia afectează persoanele situate în UE”.

Sursa: BBC
Citește și
Spune ce crezi

Adresa de email nu va fi publicata