Matematicianul Andreas Thom cere dovezi că OpenAI nu a folosit discuții cu ChatGPT în rezultatele sale

Pe Mastodon, matematicianul Andreas Thom a acuzat OpenAI de lipsă de transparență și de comportament „necinstit”, după ce compania a publicat un rezultat despre grupurile non-sofice, într-o arie apropiată de expertiza sa, relatează The Verge. Disputa vizează originea datelor folosite în cercetare și posibilitatea ca interacțiunile cercetătorilor cu ChatGPT să fi contribuit la rezultate.

Thom a cerut dovezi că interacțiunile sale și ale colegilor săi cu ChatGPT nu au contribuit, direct sau indirect, la rezultatele companiei. El a ridicat întrebarea dacă discuțiile cercetătorilor pot ajunge în modelele care concurează apoi cu aceștia la publicare.

Contextul imediat vine din seria de 10 rezultate matematice anunțate de OpenAI luna trecută. Unul dintre ele a vizat grupurile non-sofice, iar compania a recunoscut că acel rezultat s-a bazat în mare măsură pe lucrările anterioare ale lui Andreas Thom și Gábor Kun.

După anunț, OpenAI a fost criticată în cercurile matematice pentru că nu a recunoscut contribuțiile recente ale lui Thom și Kun. Compania și-a modificat ulterior discret prezentarea rezultatului despre grupurile non-sofice.

Thom mută disputa spre guvernanța datelor

Matematicianul a trimis e-mailuri către Sébastien Bubeck, cercetător la OpenAI, și Mark Sellke, statistician la Harvard. El a întrebat dacă interacțiunile sale cu ChatGPT au fost incluse în datele de antrenare, dacă au fost accesibile procesului de raționament și dacă ar fi putut contribui la rezultat.

Potrivit lui Thom, răspunsul primit de la OpenAI a tratat doar posibilitatea ca discuțiile sale cu chatbotul să fie accesate direct. El a spus că răspunsul nu a acoperit și posibilitatea ca acele interacțiuni să fi ajuns în volumele de date de antrenare folosite pentru îmbunătățirea modelelor.

Thom a spus că cercetătorii nu pot reconstitui independent fluxul de antrenare al OpenAI pentru a verifica dacă lucrările lor au fost folosite, deoarece numai compania deține datele relevante. „Nu s-a oferit nicio astfel de calificare, explicație sau dovadă. Consider că aceasta este, ca să spun cel puțin, necinste”, a scris matematicianul pe Mastodon.

El a susținut că anonimizarea nu rezolvă problema de fond atunci când conținutul este o idee matematică: „Anonimizarea poate elimina un nume; nu elimină conținutul intelectual al unei idei matematice.”

OpenAI neagă accesul direct, dar lasă deschis canalul datelor anonimizate

Poziția publică a companiei a apărut într-o postare despre soluția anunțată pentru problema Navier-Stokes. OpenAI a afirmat că cercetătorii și agenții săi nu au văzut lucrările lui Tristan Buckmaster și ale cercetătorului Anthropic Levent Alpöge înainte ca acestea să fie făcute publice și că nu au fost accesate date specifice ale utilizatorilor pentru rezolvarea problemei.

În aceeași postare, OpenAI a scris: „Dacă este puțin probabil, nu putem exclude că date anonimizate derivate din utilizarea produselor noastre au contribuit la îmbunătățirea modelelor.”

Thom a considerat că distincția dintre datele specifice și datele anonimizate repetă aceeași formulare evazivă folosită de OpenAI în schimburile cu el și cu Tristan Buckmaster.

Controversa a escaladat după ce Tristan Buckmaster, profesor de matematică la New York University, a întrebat public dacă modelele OpenAI au beneficiat de utilizarea Codex de către el. Buckmaster lucra la problemele respective, în capacitate personală, împreună cu Levent Alpöge.

OpenAI a spus că a început să lucreze la problema asociată soluției Navier-Stokes după ce a auzit online zvonuri că alți cercetători făcuseră progrese importante. Rezultatul este considerat de sursă o realizare extraordinară dacă va fi verificat, dar circumstanțele obținerii lui au alimentat temeri că matematicienii vor deveni mai secretoși, de teamă că zvonurile despre progrese ar putea declanșa o cursă cu o companie tehnologică bine finanțată.

Andreas Thom a scris pe Mastodon: „Ar fi indefensabil din punct de vedere etic ca cercetări nepublice furnizate de utilizatori să fi contribuit la îmbunătățirea unor modele pe care compania le-a folosit apoi pentru a-i întrece pe aceiași utilizatori în cursa pentru publicare, fără consimțământ, dezvăluire adecvată sau recunoaștere.”

Parteneri

Articole recomandate din rețeaua noastră

Bravonet„Insula Iubirii” apare încă seara în programul Antena 1, dar ora emisiunii s-ar putea schimbaLylaGenuflexiunile la perete făcute o dată pe săptămână au păstrat o parte din scăderea tensiunii obținută în prima lunăRevista IoanaCopiii au mers mai rar la grădiniță în toate regiunile României decât media UE în 2024News24Statul a recuperat sub 2% din costul aducerii în țară a 476 de persoane urmărite sau condamnate în 2026Dolce SportCurelea nu mai antrenează fotbaliștii României sub 21 de ani. Federația vrea să anunțe noul antrenor în 2026GetPonyUzina Chery poate scoate o mașină pe minut în 2026. Din Wuhu pleacă mașini și spre România