Questi modelli locali rispondono correttamente all’88,7% delle query e mostrano un’accuratezza superiore al 90% nei compiti creativi. Anche se i modelli di piccole dimensioni non mantengono il passo con i grandi modelli in tutti i compiti, migliorano l’intelligenza per watt di 5,3 volte tra il 2023 e il 2025 grazie a progressi nei modelli e miglioramenti hardware.
Questo studio ha importanti implicazioni economiche e ambientali. A lungo termine, la crescita dei modelli di piccole dimensioni potrebbe minacciare le aziende come Anthropic, OpenAI e xAI, mentre il futuro dell’IA potrebbe diventare più compatto, meno costoso e molto meno redditizio per gli investitori.
La ricerca ha introdotto una nuova metrica chiamata "intelligenza per watt" che è migliorata di 5,3 volte tra il 2023 e il 2025, grazie a un incremento di 3,1 volte derivante dai progressi nei modelli e di 1,7 volte dai miglioramenti hardware.
Questi risultati sollevano interrogativi sulla redditività a lungo termine delle aziende che sviluppano modelli AI sempre più grandi. Aziende come IBM e Nvidia, riconoscono che modelli locali utilizzati su macchine di tipo consumer, possono dare risultati sufficienti, come riportato qui.
In generale, questa ricerca rispecchia una tendenza più ampia nel settore in cui i modelli locali attuali raggiungono una maggiore intelligenza per watt rispetto ai modelli precedenti su hardware specializzato.
