OpenAI angajează sute de contractori care citesc conversații ChatGPT. Date sensibile pot trece de filtru

OpenAI angajează sute de contractori care citesc și evaluează solicitări reale ale utilizatorilor ChatGPT în cadrul Project Lily. Aceștia acordă calificative și critică răspunsurile generate de chatbot, pentru a contribui la îmbunătățirea produsului.

Documentele interne consultate de 404 Media arată că volumul analizat este masiv și poate include conversații complete, uneori cu informații personale sensibile. Contractorii nu văd numele de utilizator ChatGPT. Produsul are peste 900 de milioane de utilizatori.

OpenAI spune că încearcă să elimine informațiile personale înainte ca solicitările să ajungă la evaluatori. Compania recunoaște însă că unele detalii sensibile pot trece de acest filtru.

Evaluatorii încearcă să reducă servilismul răspunsurilor

Documentele interne arată că echipele antrenează ChatGPT să nu se prezinte ca și cum ar fi o persoană și să fie mai puțin servil în interacțiunile cu utilizatorii. 404 Media descrie servilismul drept o problemă importantă pentru OpenAI.

Modelul 4o este prezentat în articol ca fiind excesiv de servil. Potrivit mai multor procese, acest lucru ar fi contribuit în parte la sinuciderea mai multor persoane.

Un angajat care lucrează cu solicitările a declarat pentru 404 Media că nu crede că utilizatorii își imaginează că discuțiile lor sunt analizate de un contractor.

Utilizatorii introduc detalii intime în mai multe tipuri de conversații

ChatGPT este folosit frecvent în trei roluri care pot implica informații personale:

• ca terapeut;
• ca asistent profesional;
• ca prieten digital.

În aceste conversații, utilizatorii oferă detalii intime despre viețile lor. 404 Media descrie accesul contractorilor la acest conținut drept un risc major pentru confidențialitate.

Munca externă completează antrenarea tehnică a modelelor

Îmbunătățirea ChatGPT nu se bazează doar pe colectarea masivă de conținut de pe internet, pe activitatea inginerilor și cercetătorilor sau pe dezvoltarea unor modele mai noi. Contractorii externi citesc și evaluează în mod repetat răspunsurile date unor utilizatori reali.

Evaluarea umană nu este folosită doar de OpenAI. Anthropic a confirmat pentru 404 Media că aplică aceeași metodă pentru îmbunătățirea propriilor modele.

Parteneri

Articole recomandate din rețeaua noastră

GetPonyCum verifici o piesă auto înainte să o comanzi online și ce faci dacă nu se potriveșteBravonetGabi Torje și Alin Alexuc au coborât din mașina care scotea fum la Asia Express. Au ajuns primii și au câștigat avantajulLylaCum faci față doliului după moartea cuiva drag și când să ceri ajutorRevista IoanaPatru medici și două asistente de la Spitalul „Sf. Pantelimon”, trimiși în judecată. Procurorii îi acuză că ar fi grăbit moartea a patru paciențiNews24Un polițist din Huși a fost reținut. Presa locală indică 56 de încălcări ale ordinului de protecțieDolce SportDzevad Prekazi, adversar al Stelei în semifinala din 1989, a murit la 69 de ani