OpenAI angajează sute de contractori care citesc și evaluează solicitări reale ale utilizatorilor ChatGPT în cadrul Project Lily. Aceștia acordă calificative și critică răspunsurile generate de chatbot, pentru a contribui la îmbunătățirea produsului.
Documentele interne consultate de 404 Media arată că volumul analizat este masiv și poate include conversații complete, uneori cu informații personale sensibile. Contractorii nu văd numele de utilizator ChatGPT. Produsul are peste 900 de milioane de utilizatori.
OpenAI spune că încearcă să elimine informațiile personale înainte ca solicitările să ajungă la evaluatori. Compania recunoaște însă că unele detalii sensibile pot trece de acest filtru.
Evaluatorii încearcă să reducă servilismul răspunsurilor
Documentele interne arată că echipele antrenează ChatGPT să nu se prezinte ca și cum ar fi o persoană și să fie mai puțin servil în interacțiunile cu utilizatorii. 404 Media descrie servilismul drept o problemă importantă pentru OpenAI.
Modelul 4o este prezentat în articol ca fiind excesiv de servil. Potrivit mai multor procese, acest lucru ar fi contribuit în parte la sinuciderea mai multor persoane.
Un angajat care lucrează cu solicitările a declarat pentru 404 Media că nu crede că utilizatorii își imaginează că discuțiile lor sunt analizate de un contractor.
Utilizatorii introduc detalii intime în mai multe tipuri de conversații
ChatGPT este folosit frecvent în trei roluri care pot implica informații personale:
- ca terapeut;
- ca asistent profesional;
- ca prieten digital.
În aceste conversații, utilizatorii oferă detalii intime despre viețile lor. 404 Media descrie accesul contractorilor la acest conținut drept un risc major pentru confidențialitate.
Munca externă completează antrenarea tehnică a modelelor
Îmbunătățirea ChatGPT nu se bazează doar pe colectarea masivă de conținut de pe internet, pe activitatea inginerilor și cercetătorilor sau pe dezvoltarea unor modele mai noi. Contractorii externi citesc și evaluează în mod repetat răspunsurile date unor utilizatori reali.
Evaluarea umană nu este folosită doar de OpenAI. Anthropic a confirmat pentru 404 Media că aplică aceeași metodă pentru îmbunătățirea propriilor modele.
Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News
Parteneri
Articole recomandate din rețeaua noastră
GetPonyMașină de lux evaluată la 622.000 de lei, oprită când ieșea din România prin Rădăuți-Prut
BravonetAndreea Vasile și-a schimbat corpul și rutina pentru „Inimă sub acoperire”. S-a pregătit peste un an
LylaCopilul se ascunde când vin musafiri? Cum îl ajuți fără să-l forțezi să vorbească
Revista Ioana15 idei de toamnă, de la mic dejun la cină
News24Grindeanu spune că anticipatele ar putea avea loc cel mai devreme în februarie
Dolce SportASA Târgu Mureș a revenit de la 0-2 și a învins-o pe CS Dinamo cu 4-3 în Liga 2
