Pe Mathstodon, Terence Tao, profesor la UCLA, a descris într-o postare cum instrumentele AI încep să consume categoria rară de probleme deschise care susține cercetarea matematică pe termen lung, potrivit Decrypt. Avertismentul vine după o serie de rezultate obținute de OpenAI și Anthropic pe probleme vechi, unele rezistând decenii eforturilor umane.

Consecința imediată, în viziunea lui Tao, este că rezolvarea rapidă a problemelor aflate la îndemână poate reduce stocul de întrebări valoroase înainte ca cercetătorii umani să apuce să le studieze în profunzime. Pentru progres, argumentează el, nu contează doar inventarea unor probleme nerezolvate, ci selectarea acelora care merită ani de muncă.

„Pe scurt, utilizarea nediscriminatorie a instrumentelor puternice de extragere a soluțiilor poate atinge obiectivul imediat, pe termen scurt, de a rezolva problemele aflate la îndemână, dar cu prețul susținerii ecosistemului pentru următorul val de progres sau al înțelegerii progresului deja obținut”, a scris Terence Tao, profesor la UCLA, în postarea publicată pe instanța Mastodon Mathstodon.

Tao tratează tema ca pe o problemă de guvernanță a progresului științific. Un răspuns corect produs rapid poate închide o problemă punctuală, dar poate valora puțin pentru comunitate dacă nu explică ce se schimbă pentru întrebările apropiate și ce idei noi devin utile mai departe.

Companiile mari au mutat volume mari de calcul spre matematică

Presiunea vine din faptul că modelele de raționament și sistemele AI de frontieră nu mai sunt folosite doar pentru testări demonstrative. OpenAI și Anthropic au început să aloce volume mari de calcul unor probleme matematice și științifice care au rezistat ani sau decenii muncii cercetătorilor umani.

În mai, un model OpenAI a infirmat conjectura distanței unitare a lui Erdős, o problemă veche de 80 de ani despre numărul de perechi de puncte dintr-un plan aflate exact la distanța unu. Rezultatul a fost verificat de matematicieni din afara companiei, inclusiv de laureatul Medaliei Fields Tim Gowers.

În aceeași săptămână, Levent Alpöge, cercetător Anthropic, a rulat aceeași problemă prin Claude Mythos, modelul de vârf al companiei, încă nelansat, în regim offline, pentru ca sistemul să nu poată copia soluția publicată de OpenAI. Anthropic a obținut o demonstrație descrisă ca fiind mai scurtă decât cea a OpenAI.

Matematicianul Daniel Litt a apreciat totuși acea demonstrație drept „un pic mai proastă” decât versiunea OpenAI. În același test, Claude Mythos a identificat și soluția OpenAI, ceea ce arată că aceste sisteme pot genera o cale proprie, dar pot reconstrui și variante deja publicate.

Seria nu s-a oprit acolo. În aceeași perioadă, Anthropic a formalizat cu AI o demonstrație veche de secole a ultimei teoreme a lui Fermat, iar câteva zile mai târziu OpenAI a rezolvat o problemă veche de 90 de ani, la câteva ore după ce un cercetător își publicase propria demonstrație.

OpenAI și un cercetător Anthropic au fost coautori ai unei lucrări.

Tao vrea ca unele probleme să fie evaluate altfel

Aici apare propunerea lui Tao. El susține că anumite probleme ar trebui marcate „necesită analiză”, iar un răspuns corect brut să conteze puțin dacă nu este însoțit de o demonstrație care explică implicațiile pentru problemele conexe.

Comparația folosită de matematician mută discuția din zona performanței brute în cea a calității rezultatului. Tao spune că abordarea seamănă cu decizia unor bănci de alimente de a nu mai accepta donații doar pentru faptul că sunt comestibile.

Riscul identificat de el nu ține doar de o companie care rezolvă prima problemă. „Am văzut acum că până și zvonul că cineva lucrează la o problemă poate declanșa un efort masiv susținut de AI pentru a o aplatiza înainte ca proiectul original de cercetare să aibă timp să-și atingă întregul potențial.”, a scris Terence Tao.

Alternativa extremă ar fi, în opinia sa, interzicerea AI în matematică. Tao spune însă că o asemenea interdicție este „tehnic infezabilă”. Propunerea privind marcarea problemelor nu a devenit încă politică, iar comportamentul marilor laboratoare AI sugerează că și această soluție ar putea fi, în prezent, tehnic infezabilă.

Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News

Parteneri

Articole recomandate din rețeaua noastră
Anthropic Claude Mythos conjectura distanței unitare a lui Erdős OpenAI Terence Tao