Prețul celei mai importante materii prime care alimentează cel mai recent boom al inteligenței artificiale se prăbușește rapid. Acest lucru ar trebui să împingă tehnologia în mainstream mult mai repede. Dar, de asemenea, amenință finanțele unora dintre start-up-urile care speră să profite de acest boom și ar putea lăsa puterea în mâinile unui grup mic.
Materia primă în cauză este puterea de procesare a modelelor lingvistice mari, sau LLM, care stau la baza unor servicii precum ChatGPT și noile răspunsuri de tip chat pe care Microsoft le-a prezentat recent pentru motorul său de căutare Bing.
Costurile ridicate de calcul pentru rularea acestor modele au amenințat să fie o piedică serioasă în calea utilizării lor. Cu doar câteva săptămâni în urmă, utilizarea noului limbaj AI a costat motorul de căutare You.com cu 50% mai mult decât efectuarea unei căutări tradiționale pe internet, potrivit directorului executiv Richard Socher. Însă, la sfârșitul lunii trecute, datorită concurenței dintre companiile de LLM OpenAI, Anthropic și Cohere, diferența de costuri a scăzut la doar aproximativ 5 %.
Câteva zile mai târziu, OpenAI a lansat un nou serviciu pentru a permite dezvoltatorilor să se conecteze direct la ChatGPT și a redus prețurile pentru utilizarea tehnologiei cu 90 la sută.
Acest lucru este grozav pentru clienți, dar potențial ruinător pentru rivalii lui OpenAI. Un număr, inclusiv Anthropic și Inflection, au strâns sau sunt în curs de a încerca să strângă bani pentru a-și susține propriile ambiții LLM.
Rareori o tehnologie a trecut atât de rapid direct de la cercetare la utilizarea generală, ceea ce a determinat o cursă pentru „industrializarea” proceselor care au fost dezvoltate pentru a fi utilizate în laborator. Cea mai mare parte a creșterii performanței – și a reducerii costurilor – provine din îmbunătățiri ale platformei de calcul pe care rulează LLM-urile, precum și din perfecționarea modului în care sunt antrenate și funcționează modelele.
Într-o anumită măsură, scufundarea costurilor hardware este în beneficiul tuturor concurenților. Aceasta include accesul la cele mai recente cipuri special concepute pentru a face față cerințelor noilor modele de inteligență artificială, cum ar fi unitățile de procesare grafică H100 sau GPU de la Nvidia. Microsoft, care rulează modelele OpenAI pe platforma sa de cloud Azure, oferă aceleași facilități – și beneficii de cost – altor companii LLM.
Cu toate acestea, modelele mari sunt la fel de mult artă ca și știință. OpenAI a declarat că „o serie de optimizări la nivel de sistem” în modul în care ChatGPT își procesează răspunsurile la interogări a redus costurile cu 90% din decembrie, permițând acea reducere dramatică a prețurilor pentru utilizatori.
Formarea unui LLM costă zeci de milioane de dolari, iar tehnicile de gestionare a acestei sarcini se schimbă rapid. Cel puțin pe termen scurt, acest lucru pune preț pe numărul relativ mic de persoane cu experiență în dezvoltarea și formarea modelelor.
Până în momentul în care cele mai bune tehnici sunt înțelese și adoptate pe scară largă, primii concurenți ar putea obține un avantaj de prim-venit. Scott Guthrie, șeful grupului de cloud și inteligență artificială al Microsoft, indică noi servicii precum GitHub Copilot, pe care compania l-a lansat vara trecută pentru a sugera idei de codare dezvoltatorilor de software. Astfel de servicii se îmbunătățesc rapid odată ce sunt utilizate pe scară largă. Vorbind la o conferință a investitorilor Morgan Stanley din această săptămână, el a spus că „semnalul” care vine de la utilizatorii unor astfel de servicii devine rapid un punct important de diferențiere.
Principala speranță pentru producătorii rivali de LLM provine din vânzarea serviciilor suplimentare necesare pentru a face tehnologia mai ușor de utilizat de către dezvoltatori și marile corporații, precum și din crearea unor modele mai restrânse care să se potrivească anumitor nevoi de afaceri.
De exemplu, atunci când și-a prezentat cel mai recent LLM în această săptămână, start-up-ul israelian AI21 Labs a anunțat, de asemenea, o serie de API-uri – sau legături de programare – pentru servicii de nivel superior, cum ar fi rezumarea sau rescrierea textului.
Mai degrabă decât modelele cu o bază largă, cum ar fi cel din spatele ChatGPT, majoritatea companiilor vor dori să utilizeze modele care au fost antrenate pe limbajul utilizat în anumite industrii, cum ar fi finanțele sau asistența medicală, sau pe propriile date ale unei companii, a declarat Ori Goshen, co-CEO al AI21.
După cum a remarcat, modelele lingvistice mari sunt la început. Mai sunt încă multe de făcut pentru a le reduce tendința de a scuipa falsuri și pentru a le împiedica să „halucineze”, sau să genereze răspunsuri care sună plauzibil și care nu au nicio legătură cu realitatea. Pentru a reuși, companiile de inteligență artificială vor trebui să rămână în avangarda cercetării.
Dar rămâne faptul că costurile de bază ale acestor servicii de inteligență artificială generativă se prăbușesc. Reducerea prețului OpenAI este un semn al rapidității cu care noua tehnologie trece la adoptarea în masă și un semnal de avertizare că aceasta ar putea fi o afacere cu puțini producători.
Sursa – www.ft.com
Pentru a fi la curent cu toate știrile, urmărește Financiarul.ro și pe Google News
Parteneri
Articole recomandate din rețeaua noastră
Revista IoanaContul escrow îți poate proteja avansul pentru renovare. De ce lucrarea poate ajunge mai scumpă
News24Un plin de 50 de litri costă 501 lei în România. Bulgaria și Ungaria sunt mai ieftine
Dolce SportRomânia a pierdut cu 2-1 la debutul oficial al lui Andrei Coubiș
GetPonyUn candidat la redobândirea permisului avea 0,12 mg/L alcool în aerul expirat și a fost sancționat cu 21 de puncte
BravonetGhid esențial despre cum să călătorești inteligent, des și sustenabil
LylaȘase minute de citit au fost asociate cu o reducere de 68% a stresului, dar efectul nu este garantat
