Explozia inteligenței artificiale (AI) se bazează pe ideea că mai mare înseamnă mai bine, însă un studiu recent sugerează că de fapt contrariul ar putea fi în curând adevărat: modelele lingvistice mici care rulează pe computere desktop ar putea fi capabile să gestioneze majoritatea sarcinilor efectuate în prezent de modelele lingvistice mari, conform lui Joachim Klement, expert în investiții pentru Panmure Liberum, transmite joi Reuters.

Dacă acest lucru este adevărat, companii precum Anthropic, OpenAI și SpaceX ar putea avea motive de îngrijorare. Viitorul pentru AI ar putea fi legat de dimensiuni reduse, preț mic și un profit substanțial redus față de așteptările investitorilor.

Pe 1 iunie Nvidia a dezvăluit o nouă platformă AI desktop care rulează pe PC-uri Windows, ridicând posibilitatea ca viitorul AI să nu fie legat exclusiv de giganticele centre de date. Un studiu al Universității Stanford publicat cu două săptămâni mai devreme a sugerat același lucru. Acesta a comparat modelele lingvistice locale mici (SLM) care rulează pe PC-uri desktop cu modelele lingvistice mari (LLM) care rulează în centre de date.

Cercetătorii au testat o gamă de SLM-uri, folosind atât PC-uri, cât și Mac-uri, pe 500.000 de cereri de chat și 500.000 de sarcini de raționament. Studiul a constatat că, în medie, aceste SLM-uri au fost la fel de bune sau mai bune decât LLM-urile în peste 80% din sarcini, cu rate de succes care se apropie de 100% în aplicațiile de vânzări, management și divertisment.

Acest lucru nu înseamnă că SLM-urile sunt, în general, superioare, susține Klement. În cele mai dificile sarcini de raționament acestea țin pasul cu LLM-urile în doar aproximativ 50% din cazuri. Dar este o creștere substanțială față de doar 8% acum doi ani, ceea ce arată că decalajul de performanță dintre SLM-uri și LLM-uri se reduce rapid.

Mai important, SLM-urile se îmbunătățesc rapid într-o metrică pe care cercetătorii o numesc 'inteligență pe watt', care măsoară precizia unui SLM pe un PC desktop în raport cu 'energia consumată'. Această măsură s-a îmbunătățit de peste cinci ori în ultimii doi ani. Rezultatul nu este doar că SLM-urile pot funcționa la fel de bine sau mai bine decât LLM-urile în 'majoritatea cazurilor', ci și că pot face acest lucru utilizând cu 50% până la 80% mai puțină energie - adică la un cost mai mic.

Dacă această tendință continuă și SLM-urile elimină decalajul de performanță față de LLM-uri mai repede decât se așteaptă piața, consecințele pentru companiile care stimulează boom-ul actual AI ar putea fi severe, avertizează Joachim Klement.

Un studiu realizat la Stanford sugerează acum că LLM-urile sunt cea mai viabilă soluție din punct de vedere economic în doar o cincime din cazurile de utilizare actuale. Dacă este adevărat, acest lucru ar submina evaluările ridicate pe care OpenAI și Anthropic speră să le atingă în IPO-urile lor și ar pune sub semnul întrebării evaluarea de 2,85 trilioane de dolari a SpaceX, care este înrădăcinată în mare parte în speranțele legate de dezvoltarea AI.

Aceste firme ar putea intra în cursa pentru SLM-uri prin micșorarea sau 'simplificarea' modelelor lor existente. Dar problema este că cele mai avansate SLM-uri sunt open source, ceea ce înseamnă că sunt disponibile gratuit sau la un cost extrem de scăzut. Prin urmare, marjele de profit pentru furnizorii LLM ar fi mult mai mici în spațiul SLM.

Mai mult, un SLM nu are nevoie de un centru de date. Dacă majoritatea sarcinilor pot fi efectuate la costuri mai mici pe un PC desktop, argumentele pentru centre de date vaste, dotate cu GPU, TPU și cipuri Trainium scumpe, slăbesc considerabil.

Singurele companii care ar beneficia probabil de o astfel de schimbare ar fi producătorii de computere desktop precum Apple - și, potențial, Nvidia, dacă noua sa platformă AI desktop va avea succes. În lumina acestui studiu, incursiunea Nvidia în domeniul desktopurilor pare mai puțin o strategie de diversificare și mai mult o măsură de protejare a riscurilor pentru a rămâne relevantă, indiferent de modul în care evoluează această tehnologie, mai susține expertul în investiții de la Panmure Liberum. AGERPRES/(AS - editor: Codruț Bălu, editor online: Simona Aruştei)