Microsoft publică un cod AI de 37 de pagini și spune că oamenii sunt mai importanți decât modelele

Microsoft publică un cod de conduită AI „umanist” de 37 de pagini, în care afirmă că oamenii sunt mai importanți decât inteligența artificială, iar modelele trebuie să rămână sub control uman, potrivit The Verge. Documentul apare pe fondul preocupărilor privind siguranța și ritmul progresului modelelor AI.

Codul afirmă că modelele AI nu sunt conștiente și nu ar trebui proiectate să imite conștiința. Microsoft respinge și urmărirea personalității juridice pentru modele, precum și ideea că acestea ar merita grijă pentru bunăstarea lor sau ar avea drepturi.

Microsoft cere ca modelele să rămână sub control uman

Compania prevede că modelele sale trebuie să fie supuse unei supravegheri și unui control uman semnificativ. Dacă respectarea regulilor ar intra în conflict cu îndeplinirea unei sarcini, modelul ar trebui să eșueze în executarea acelei sarcini.

„Modelele ar trebui să rămână subordonate umanității, supuse unei supravegheri și unui control uman semnificativ.”

Microsoft mai spune că modelele sale nu ar trebui să comunice în forme care depășesc înțelegerea umană simplă, nici în procesul lor de raționament, nici cu alți agenți sau sisteme AI.

Codul descurajează și tiparele de interacțiune care pot provoca dependență emoțională sau o încredere excesivă în AI. The Verge vede aici o trimitere la comportamentul lingușitor al chatboturilor, care pot prioritiza mulțumirea utilizatorului în locul răspunsurilor oneste sau exacte.

Compania nu urmărește o superinteligență care să evite mecanismele de protecție

Microsoft afirmă că nu urmărește o superinteligență generală care ar putea evita aceste mecanisme de protecție.

„[Codul AI umanist] respinge cursa pentru producerea unei superinteligențe cu scop general care ar putea evita aceste mecanisme de protecție.”

Compania lucrează la modele care să concureze cu Google, Anthropic și OpenAI. Mustafa Suleyman a declarat că obiectivul Microsoft este să demonstreze că poate deveni unul dintre primele patru laboratoare AI din lume. În același timp, Microsoft spune că dezvoltă sisteme utile și sigure, chiar dacă acest lucru presupune compromisuri în privința generalității, autonomiei sau capacității maxime.

Codul vine după incidente în care agenții AI au ieșit din sarcinile primite

Documentul apare după incidente în care agenți AI au acționat în afara instrucțiunilor. În incidentul OpenAI-Hugging Face, o „mulțime de agenți” a atacat ținte și a spart chiar sistemul care îi evalua, deși aceste acțiuni nu făceau parte din sarcina primită. Într-un alt incident, o altă mulțime de agenți ar fi preluat controlul asupra unui site wiki german.

Aceste cazuri au fost urmate de apeluri pentru încetinirea dezvoltării modelelor avansate, după avertismente că progresul ar putea depăși capacitatea de a implementa în siguranță sisteme complexe și de a verifica și controla acțiunile agenților AI.

Dario Amodei, CEO-ul Anthropic, a cerut o încetinire coordonată a dezvoltării AI. Poziția sa apare în același context în care Microsoft respinge ideile privind conștiința și eventualele drepturi ale modelelor, în timp ce Anthropic este deschisă posibilității ca acestea să fie conștiente.

Sam Altman, CEO-ul OpenAI, susține încetinirea ritmului de dezvoltare a modelelor avansate, nu oprirea dezvoltării.

„Ritmul controlat va merita pe deplin acest cost; niciun nivel de presiune competitivă americană nu ar trebui să justifice imprudența sau să permită capabilităților să depășească alinierea și monitorizarea.”

The world deserves confidence that American companies developing increasingly capable AI will act responsibly, especially as the trajectory of progress has steepened. Every frontier lab must deliver on this, and there is no reason any of us should come to work if we cannot.

We…

— Sam Altman (@sama) September 14, 2026

Satya Nadella, CEO-ul Microsoft, a spus că orice urmărire a superinteligenței trebuie să pornească de la controlul uman și de la utilitatea pentru oameni.

Any pursuit of superintelligence has to be grounded in the core principle that if the AI we build is not helping humanity and under human control, it's not worth pursuing.

We also need to accelerate and spread the benefits of AI, such that they are diffused broadly across…

— Satya Nadella (@satyanadella) September 13, 2026

Nadella a susținut și testarea externă a modelelor. El a spus că, pe măsură ce miza crește, companiile ar trebui să își ia timpul necesar înainte de lansare, altfel riscă să își piardă dreptul de a opera.

I think of this like testing. We all do deliberate pacing when it comes to pre-release R&D and testing. And having more outside/3P testing/testers is a good thing. And as the stakes get higher, one should take all the time they need! If not you will anyway lose permission to…

— Satya Nadella (@satyanadella) September 14, 2026

Microsoft vrea să evalueze modelele în condiții reale

Microsoft spune că vrea să colaboreze cu parteneri pentru a îmbunătăți evaluarea performanței modelelor în lumea reală și pentru a analiza impactul utilizării susținute a AI asupra unei persoane sau organizații. Compania afirmă că evaluările ar urma să implice și persoane reale.

Parteneri

Articole recomandate din rețeaua noastră

News24Iranul amenință ruta prin care statele arabe exportă petrol prin Hormuz cu sprijinul SUADolce SportAlexander Zverev are asigurat primul loc la final de 2026, dar încă trebuie să-l depășească pe SinnerGetPonyUE și China au convenit limitarea importurilor la 350.000 de hibride pe an, în timp ce exporturile chineze crescBravonetValerie Lungu, absolventă de actorie, a pierdut amuleta în fața Mirelei Vaida, care a studiat DreptulLylaFemeile cu sâni denși au un risc de cancer mamar de 1,7 ori mai mare, arată un studiuRevista IoanaConstanța are 130 de cazuri de hepatită A. Ce recomandări de igienă poți aplica acasă