Small Language Models: perché la taglia del modello conta (per il clima, e non solo)

Per anni l'idea implicita è stata semplice: più il modello è grande e potente, meglio è, e il conto — energetico, economico, ambientale — lo paga il datacenter. Ma qualcosa sta cambiando, e vale la pena capire cosa lo sta guidando davvero, con i numeri più aggiornati alla mano.

Quanto costa, davvero, un singolo prompt?

Google ha pubblicato una misurazione end-to-end — non una stima esterna, ma un dato di produzione reale — di quanto costi rispondere a una richiesta testuale mediana su Gemini: circa 0,24 Wattora di energia e 0,26 millilitri d'acqua, meno dell'energia necessaria per pochi secondi di televisione accesa.

Il dato più interessante non è il numero assoluto, ma la traiettoria: in dodici mesi l'energia necessaria per lo stesso tipo di richiesta è scesa di circa 33 volte, e le emissioni di 44 volte.

Come è stato possibile? Attraverso una combinazione di tecniche che, messe insieme, cambiano le regole del gioco: architetture "mixture of experts" che attivano solo una piccola parte dei parametri per ogni richiesta, tecniche di compressione numerica che non intaccano la qualità percepita, e chip disegnati su misura, oggi fino a 30 volte più efficienti rispetto a pochi anni fa.

Il paradosso che nessuno racconta

Qui però serve il dato più aggiornato — e più scomodo — di tutti. Il 2026 Environmental Report di Google, pubblicato il 30 giugno 2026, mostra che l'elettricità consumata dai suoi datacenter è passata da 14,4 milioni di MWh nel 2020 a 30,8 milioni nel 2024, fino a circa 42 milioni di MWh nel 2025 — il più grande aumento anno su anno nella storia dell'azienda (+37%). Le emissioni totali sono salite del 18% solo nell'ultimo anno, e sono ormai dell'81% più alte rispetto al 2019.

Come si concilia questo con il -33x di prima? È quello che gli economisti chiamano "paradosso di Jevons": quando una risorsa diventa più efficiente da usare, se ne usa di più, non di meno. Lo stesso report di Google lo ammette esplicitamente, dicendo che la crescita della sua infrastruttura AI sta accelerando più velocemente di quanto la rete elettrica riesca a decarbonizzare. L'International Energy Agency, nel suo rapporto di aprile 2026, spiega il meccanismo su scala globale: mentre le richieste testuali semplici costano sempre meno, l'adozione esplode — utenti attivi triplicati, ricavi quintuplicati in un anno secondo i principali fornitori — e si sposta verso compiti molto più pesanti: generazione video, ragionamento multi-step, agenti autonomi, che possono consumare centinaia o migliaia di volte più energia di un semplice prompt testuale.

È una precisazione importante per qualunque discorso sull'AI "frugale": l'efficienza tecnica è una condizione necessaria, ma da sola non basta a invertire la traiettoria dei consumi. Serve anche un cambio di comportamento — usare il modello giusto per il compito giusto, invece del più potente disponibile per abitudine.

Più grande non è (sempre) meglio

Mistral AI ha pubblicato uno studio ancora più diretto sulla relazione tra dimensione del modello e impatto ambientale, analizzando l'intero ciclo di vita del proprio modello di punta (Large 2): l'addestramento genera circa 20.400 tonnellate di CO2 equivalente e consuma 281.000 metri cubi d'acqua, mentre rispondere a una singola domanda produce circa 1,14 grammi di CO2 e 45 millilitri d'acqua.

L'impronta ambientale di un modello cresce quasi in proporzione diretta alla sua dimensione. In pratica: se un modello ha dieci volte più parametri di un altro, generare lo stesso numero di parole con quel modello costa — a parità di tutto il resto — circa dieci volte di più in termini di CO2 e acqua consumata.

Non è una legge fisica esatta, ma è la tendenza osservata, e ha una conseguenza molto concreta: usare un modello enorme per compiti che non lo richiedono — riassumere un'email, classificare un testo, rispondere a una domanda semplice — non è solo uno spreco filosofico, è uno spreco misurabile in denaro, energia e acqua.

È interessante notare che Mistral sembra aver preso sul serio la propria stessa conclusione: nel corso del 2026 ha costruito un'intera famiglia di modelli di taglie diverse — da Large 3 fino ai piccoli Ministral da 3, 8 e 14 miliardi di parametri — raccomandando esplicitamente agli sviluppatori di usare "Large 3 solo quando serve davvero" e i modelli Ministral per i compiti più leggeri. Non hanno ancora ripubblicato uno studio con numeri aggiornati per questi nuovi modelli, ma la filosofia del "right-sizing" è ormai parte del loro catalogo prodotti, non solo di un paper.

Un nome per questo movimento: il Frugal AI

Questa filosofia ha ormai un nome e un manifesto condiviso. Il Frugal AI Hub, un'iniziativa che riunisce ricercatori e aziende attorno a questo tema, ha codificato quattro principi che stanno diventando un riferimento per chi progetta sistemi AI responsabili: efficienza delle risorse (modelli più piccoli, veloci ed economici da addestrare ed eseguire), sostenibilità (ridurre l'impronta di carbonio e promuovere infrastrutture ed energia rinnovabile), accessibilità e inclusione (permettere anche a piccole imprese, startup e contesti con connettività limitata di usare l'AI), e infine impatto e scalabilità (valutare seriamente il ritorno sull'investimento, non solo l'ambizione tecnica).

Non è un'iniziativa isolata: è il segnale che "frugale" sta smettendo di essere sinonimo di "meno capace" e sta diventando un criterio di progettazione a pieno titolo, alla pari di accuratezza e velocità.

Il vestito su misura: non tutti i compiti hanno bisogno di un genio

Se la dimensione conta così tanto, la domanda naturale diventa: come scegliere il modello giusto per ogni compito? Google, attraverso le sue linee guida per sviluppatori, propone un framework che sta diventando uno standard de facto nel settore: il "right-sizing" dell'intelligenza artificiale.

Per attività molto specifiche e ripetitive, un modello piccolo dedicato basta e avanza, e gira sul server più economico disponibile. Per un'ampia famiglia di compiti generalisti ma delimitati, un modello "piccolo" di ultima generazione è oggi consigliato ovunque: sul dispositivo, scaricabile on-demand, o su server. Solo per i compiti che richiedono davvero un ragionamento ampio serve ancora un modello di frontiera, saldamente nel cloud.

L'ibrido è già nel tuo browser, anche se non te ne sei accorto

Questa non è solo teoria da paper accademico: è già infrastruttura in produzione. Google ha integrato nei propri strumenti per sviluppatori (Firebase AI Logic) un sistema che sceglie automaticamente se elaborare una richiesta con un modello leggero direttamente nel browser — attraverso Gemini Nano integrato in Chrome — oppure, se il compito è troppo complesso o il dispositivo non è compatibile, passare senza soluzione di continuità a un modello cloud più potente.

Il vantaggio per chi sviluppa app è duplice: latenza quasi azzerata e, potenzialmente, nessun costo di chiamata API per le richieste gestite in locale. Siamo ancora alle prime fasi — oggi funziona solo per testo su singolo turno, con un limite di circa 6.000 token, solo su Chrome desktop — ma la direzione è tracciata.

Gli assistenti AI non devono essere geni universali

C'è un ultimo tassello, forse il più concettuale, che arriva da un gruppo di ricerca di NVIDIA insieme al Georgia Institute of Technology. Nel loro paper "Small Language Models are the Future of Agentic AI", gli autori osservano che la maggior parte degli "agenti" AI — sistemi che eseguono compiti in autonomia, come prenotare, cercare informazioni, orchestrare altri strumenti — non hanno bisogno di sostenere una conversazione brillante su qualsiasi argomento. Devono fare bene una cosa specifica, ripetutamente, in modo affidabile.

Per questo tipo di lavoro, sostengono i ricercatori, i modelli piccoli sono già sufficientemente capaci, più veloci, più facili da specializzare, fino a 10-30 volte meno costosi da eseguire — e diventeranno il cuore pulsante dei sistemi agentivi del prossimo futuro. Il modello enorme resta il "consulente esperto" per il ragionamento complesso, mentre uno sciame di modelli piccoli si occupa di tutto il resto.

Quando un solo sviluppatore sfida i giganti: il caso DwarfStar4

C'è un esempio molto concreto, e per certi versi sorprendente, di dove può arrivare questa filosofia quando la porta avanti una singola persona invece di un laboratorio corporate. Salvatore Sanfilippo — noto alla comunità tech come "antirez", creatore di Redis, il data store in-memory diventato infrastruttura standard del web moderno (usato come database, cache, message broker e, più di recente, motore di ricerca vettoriale per applicazioni AI) — ha costruito da solo DwarfStar4 (ds4): un motore di inferenza scritto da zero in linguaggio C, pensato per far girare un modello open-weight quasi di frontiera, DeepSeek V4 Flash, direttamente su hardware personale di fascia alta (Mac con almeno 96 GB di RAM, schede NVIDIA, cluster domestici collegati in parallelo), senza alcuna connessione cloud.

Non è tecnicamente un "modello piccolo": il file dei pesi pesa circa 76 GB. Ma il principio è lo stesso che guida tutto questo movimento, applicato con un approccio diverso: invece di rimpicciolire il modello, Sanfilippo ha reso l'ingegneria dell'inferenza così efficiente — grazie a una quantizzazione asimmetrica e allo sfruttamento della struttura "mixture of experts" del modello — da rendere pratico eseguire in locale qualcosa che fino a poco tempo fa sarebbe stato pensabile solo su un cluster di server. Il progetto, distribuito gratuitamente con licenza MIT, ha superato le 12.000 stelle su GitHub nelle prime settimane.

È la controprova che il movimento verso l'AI locale non è guidato solo dalle strategie di prodotto di Google o Microsoft: è anche un fronte aperto, dal basso, da chi crede che possedere un modello quasi-frontiera sul proprio computer, senza inviare dati a nessuno, debba essere un'opzione reale — non solo per hobbisti, ma per chiunque tenga alla privacy e all'indipendenza dal cloud.

Cosa significa, in pratica, questo cambio di rotta

Mettendo insieme questi pezzi — l'efficienza crescente ma non risolutiva dei modelli, la proporzionalità tra grandezza e impatto, i principi del Frugal AI, il framework del "modello giusto per il compito giusto", l'infrastruttura ibrida già in produzione e persino le sperimentazioni individuali come DwarfStar4 — emerge un quadro coerente: l'intelligenza artificiale del prossimo futuro non sarà un'unica entità enorme che vive in un datacenter lontano, ma un ecosistema stratificato, dove buona parte del lavoro quotidiano si sposta più vicino a noi.

Non significa che i datacenter smetteranno di crescere — l'addestramento dei modelli più avanzati resterà un'impresa centralizzata ancora per molti anni, e come mostrano sia Google sia l'IEA, il conto energetico complessivo continua comunque a salire. Ma la domanda di calcolo AI si sta biforcando, e questa biforcazione ha conseguenze molto concrete su chi costruisce l'hardware, chi vince e chi perde nella catena di fornitura, e su dove conviene guardare, oggi, se si osserva questo settore anche con un occhio da investitore.

Nel prossimo articolo entriamo nei numeri: cosa dicono davvero i bilanci trimestrali di Big Tech, produttori di chip e outsider del settore su questa biforcazione tra datacenter ed edge — e chi, tra i nomi meno conosciuti, potrebbe beneficiarne di più.