China impune reguli stricte pentru AI cu interacțiune umană

Administrația de Ciberspațiu din China a publicat sâmbătă un proiect de regulament care urmărește să supravegheze mai strict serviciile de inteligență artificială concepute să simuleze personalități umane și să implice utilizatorii emoțional. Măsurile propuse vizează produsele AI care interacționează cu publicul prin text, imagini, audio sau video și care prezintă trăsături de personalitate umană. Consultarea publică rămâne deschisă până pe 25 ianuarie.

Decizia subliniază efortul Beijingului de a modela rapid dezvoltarea AI destinată consumatorilor prin consolidarea cerințelor de siguranță și etică. Proiectul vine într-un moment în care China consideră inteligența artificială un pilon al creșterii economice și al competitivității globale.

Definirea serviciilor antropomorfice de AI

Potrivit proiectului publicat pe site-ul oficial al Cyberspace Administration of China, regulamentele se aplică serviciilor care folosesc tehnologii AI pentru a simula trăsături de personalitate umană, modele de gândire și stiluri de comunicare. Acestea trebuie să ofere interacțiune emoțională cu publicul din China.

Lin Wei, președintele Universității de Sud-Vest de Drept și Științe Politice și vicepreședinte al China Law Society, explică într-un articol oficial că progresele în tehnologia AI propulsează interacțiunea om-mașină dincolo de simpla asistență funcțională. Evoluția se îndreaptă spre implicare emoțională și personalizată, ceea ce remodelează paradigmele interacțiunii sociale.

Sistemul de avertizare obligatoriu

Regulamentul draft stabilește că furnizorii de servicii AI trebuie să informeze clar utilizatorii când aceștia interacționează cu o mașină, nu cu un om. Notificările vor apărea la autentificare, la intervale de două ore sau când se detectează semne de supradependență.

Această măsură urmărește să promoveze conștientizarea utilizatorilor și să reducă riscurile asociate cu integrarea profundă a AI în viața de zi cu zi. Zhang Zhen, director adjunct și inginer senior la Centrul Național de Urgență pentru Internet, subliniază că regulamentele lasă spațiu suficient pentru dezvoltarea industrială, prevenind în același timp riscul alienării tehnologice.

Conținut interzis și restricții stricte

Proiectul interzice explicit generarea sau diseminarea conținutului care pune în pericol securitatea națională, dăunează onoarei sau intereselor naționale sau subminează unitatea etnică. De asemenea, sunt interzise conținuturile obscene, legate de jocuri de noroc, violente sau care incită la infracțiuni.

Regulamentele prohibă și conținutul care încurajează sau glorifică sinuciderea sau automutilarea, precum și practicile de abuz verbal sau manipulare emotională care ar putea dăuna sănătății fizice sau mentale a utilizatorilor. Manipularea algoritmică, informațiile înșelătoare sau capcanele emoționale care împing utilizatorii spre decizii iraționale sau dăunătoare sunt de asemenea interzise.

Li Qiangzhi, director adjunct al Institutului de Politici și Cercetări Economice de la Academia Chineză pentru Tehnologia Informației și Comunicațiilor, notează într-o interpretare oficială că și în afara Chinei, reglementatorii și instanțele strâng supravegherea asupra AI antropomorfice și interactive emoțional, pe măsură ce cresc dovezile privind daunele din lumea reală.

Responsabilități pe tot ciclul de viață

Sub propunerea prezentată, furnizorii de servicii vor fi obligați să își asume responsabilități de siguranță pe tot parcursul ciclului de viață al produsului. Aceștia trebuie să stabilească sisteme pentru revizuirea algoritmilor, securitatea datelor și controlul conținutului.

Înainte de a lansa orice caracteristică nouă de AI cu aspect uman, furnizorii trebuie să efectueze evaluări complete de securitate. Un raport detaliat trebuie apoi trimis administrației provinciale de ciberspațiu. Cerințe suplimentare de raportare se declanșează dacă un serviciu atrage o bază semnificativă de utilizatori, ajungând la un milion de utilizatori înregistrați sau 100.000 de utilizatori activi lunar.

Protecția grupurilor vulnerabile

Regulamentele subliniază protecția sporită pentru grupurile vulnerabile, în special minori și vârstnici. Articolul 6 din proiect încurajează furnizorii să extindă scenariile de aplicare în domenii precum diseminarea culturală și însoțirea vârstnicilor, cu condiția să demonstreze pe deplin siguranța și fiabilitatea.

Măsurile propuse vizează riscuri specifice care apar din antropomorfism și interacțiune emoțională, concentrându-se pe estomparea granițelor dintre om și mașină. Acestea identifică riscuri precum dependența utilizatorilor, manipularea psihologică, utilizarea greșită a datelor și erodarea încrederii sociale.

Abordare reglementară pe niveluri

Proiectul propune o abordare reglementară inclusivă, prudentă și pe niveluri, cu supraveghere diferențiată bazată pe nivelurile de risc. Aceasta pune accent atât pe sprijinirea inovației, cât și pe măsuri de protecție împotriva abuzurilor.

Cadrul combină supraveghere bazată pe riscuri, evaluări de securitate, aplicarea regulilor în magazinele de aplicații și sandbox-uri de reglementare nou introduse. Acestea semnalează intenția Beijingului de a permite experimentare controlată, condiționând creșterea AI de conformitate demonstrabilă și responsabilitate socială.

Context internațional

Lin Wei avertizează că fără o guvernanță eficientă, riscurile asociate cu AI antropomorfică ar putea împiedica grav dezvoltarea sănătoasă a AI și ar putea dăuna interesului public al societății. Caracterizate prin natura lor subtilă și transmisibilă, aceste riscuri pot încălca drepturile și interesele cetățenilor și pot submina chiar fundamentele ordinii etice și încrederii sociale.

Lansarea proiectului se aliniază cu prioritățile strategice naționale și reflectă o abordare previzionară, precisă și sistematică a guvernanței AI. Prin clarificarea granițelor de responsabilitate pentru inovație, măsurile urmăresc să asigure că dezvoltarea tehnologică rămâne sigură, echitabilă și durabilă.

Perioada de consultare publică pentru aceste proiecte de regulamente se va încheia pe 25 ianuarie. Feedback-ul adunat în această fază va informa probabil versiunea finală a reglementărilor, ceea ce indică un grad de deschidere în procesul de elaborare a politicilor. Rezultatul acestei consultări va fi urmărit îndeaproape atât de dezvoltatorii AI interni, cât și de cei internaționali.

Parteneri

Articole recomandate din rețeaua noastră

News24Cabinetul Mureșan are 169 de voturi declarate și are nevoie de 233 pentru învestireDolce SportRomânia caută primele puncte cu Bosnia și Herțegovina, sub arbitrajul portughezului Luís GodinhoGetPonyUn pahar de vin cere un interval orientativ de 3,5 ore înainte de condus. Berea și tăria au alte repereBravonetDupă 40 de ani de carieră, Monica Anghel spune că nu aleargă numai după baniLylaPoate masca de față cu miere să trateze acneea? Efectul de hidratare este doar temporarRevista IoanaNeu5Gc leagă carnea roșie de diabetul de tip 2, dar studiul nu dovedește o cauză