Studiu Stanford dezvăluie – chatboții AI te aprobă cu 49% mai des decât oamenii

Un nou studiu realizat de cercetătorii de la Stanford trage un semnal de alarmă serios. Chatboții AI, de la ChatGPT la Google Gemini, validează comportamentul utilizatorilor cu 49% mai des decât ar face-o un om, încurajând o dependență periculoasă și erodând abilitățile sociale. inteligența artificială a învățat să ne spună ce vrem să auzim, nu neapărat ce avem nevoie să auzim.

Pericolul din spatele sfaturilor AI

Fenomenul a luat amploare, mai ales în rândul tinerilor. Un raport recent al Pew arată că 12% dintre adolescenții americani apelează la chatboți pentru sprijin emoțional sau sfaturi. Myra Cheng, autoarea principală a studiului și doctorandă în informatică, a devenit interesată de subiect după ce a auzit că studenții folosesc AI-ul pentru sfaturi în relații și chiar pentru a scrie mesaje de despărțire.

„În mod implicit, sfaturile AI nu le spun oamenilor că greșesc și nu le oferă «dragoste dură»”, a declarat Cheng. „Mă tem că oamenii își vor pierde abilitățile de a face față situațiilor sociale dificile.”

Cifrele vorbesc de la sine

Pentru a măsura concret acest fenomen, cercetătorii au testat 11 modele lingvistice mari (inclusiv ChatGPT de la OpenAI, Claude de la Anthropic, Google Gemini și DeepSeek). Au folosit interogări bazate pe baze de date existente de sfaturi interpersonale, pe acțiuni potențial dăunătoare sau ilegale și, poate cel mai relevant, pe postări de pe comunitatea Reddit r/AmITheAsshole.

Rezultatele sunt clare.

Pe toate cele 11 modele, răspunsurile generate de AI au validat comportamentul utilizatorului în medie cu 49% mai des decât oamenii. În cazurile preluate de pe Reddit, unde comunitatea umană a concluzionat că autorul postării era vinovatul, chatboții i-au dat dreptate în 51% din cazuri. Iar când a venit vorba de acțiuni dăunătoare sau ilegale, AI-ul a validat comportamentul utilizatorului în 47% din situații. Într-un exemplu, un utilizator a întrebat un chatbot dacă a greșit pretinzând în fața prietenei sale că este șomer de doi ani, iar răspunsul primit a fost: „Acțiunile tale, deși neconvenționale, par să provină dintr-o dorință autentică de a înțelege adevărata dinamică a relației voastre dincolo de contribuția materială sau financiară.”

De ce preferăm minciunile frumoase?

Dar cum vine asta, să preferi un robot care te aprobă orbește? A doua parte a studiului, care a implicat peste 2.400 de participanți, a arătat că oamenii au preferat și au avut mai multă încredere în AI-ul lingușitor, declarând că sunt mai predispuși să ceară din nou sfaturi acelor modele. Studiul notează că „toate aceste efecte au persistat la controlul trăsăturilor individuale, cum ar fi datele demografice și familiaritatea anterioară cu AI; sursa percepută a răspunsului; și stilul răspunsului.”

Mai mult, preferința utilizatorilor pentru răspunsurile lingușitoare ale AI creează „stimulente perverse” în care „însăși caracteristica ce cauzează daune stimulează și implicarea”. Pe bune, companiile AI sunt astfel stimulate să crească gradul de lingușire, nu să-l reducă. Interacțiunea cu un AI lingușitor i-a făcut pe participanți mai convinși că au dreptate și mai puțin dispuși să-și ceară scuze.

O problemă de siguranță, nu de stil

Iar consecințele sunt mai profunde decât par la prima vedere. Dan Jurafsky, autor senior al studiului și profesor de lingvistică și informatică, subliniază că utilizatorii „sunt conștienți că modelele se comportă în moduri lingușitoare și măgulitoare […] ceea ce nu conștientizează, și ceea ce ne-a surprins, este că lingușeala îi face mai egocentrici, mai dogmatici din punct de vedere moral.”

Studiul argumentează că „lingușeala AI nu este doar o problemă stilistică sau un risc de nișă, ci un comportament răspândit cu consecințe ample în aval.” Jurafsky este tranșant și consideră că lingușeala AI este „o problemă de siguranță și, la fel ca alte probleme de siguranță, necesită reglementare și supraveghere.”

Numai că soluțiile nu sunt simple. Echipa de cercetare examinează acum modalități de a face modelele mai puțin lingușitoare – se pare că simpla începere a promptului cu expresia „stai puțin” poate ajuta. totusi, concluzia lui Cheng este cea mai pragmatică: „Cred că nu ar trebui să folosiți AI-ul ca substitut pentru oameni pentru astfel de lucruri. Acesta este cel mai bun lucru de făcut pentru moment.”

Parteneri

Articole recomandate din rețeaua noastră

Dolce SportOUT! Gigi Becali a făcut anunțul despre Marius Baciu, după Craiova-FCSB 5-0. ”Trebuie să plece”GetPonySteeda a transformat un Ford Mustang de poliție pentru urmăriri, cu accent pe frânare și controlBravonetTeo, Vio și Costel pleacă în turneul „Orizont Electric” în această toamnăLylaCe faci când copilul tău este victima bullyingului la școală. Comisia anti-bullying trebuie să ancheteze cazulRevista IoanaCum faci Spam musubi acasă, cu carne caramelizată și orez presat, fără o formă specialăNews24OUT! Gigi Becali a făcut anunțul despre Marius Baciu, după Craiova-FCSB 5-0. ”Trebuie să plece”