Cosa significa 8B nell'IA? Parametri LLM: 8 miliardi, 5 GB per farlo girare

8B è un conteggio di pesi, e prevede la memoria molto meglio della qualità

Tre modelli 8B ottengono 6, 7 e 11 nell'Artificial Analysis Intelligence Index (un composito di test pubblici di ragionamento, programmazione e conoscenza, letto il 26 settembre 2026), mentre Kimi K3 memorizza 2.8 trilioni di parametri, 350 volte tanti, per arrivare a 44. Il grafico mostra 13 modelli aperti con entrambi i numeri pubblicati; ogni conteggio è il totale dalla scheda del modello del produttore, e ogni punteggio è quello della modalità predefinita, tranne i tre contrassegnati con sforzo massimo, valutati al massimo sforzo di ragionamento.

La linea tratteggiata è la frontiera, il punteggio migliore a ogni taglia, e sale di 33 punti su un aumento di 350 volte dei parametri. Sotto di essa, la dispersione a una stessa taglia è ampia quanto quella tra taglie diverse. Llama 4 Maverick memorizza 400 miliardi di parametri e ottiene 10, un punto sotto l'8B di IBM.

Cosa sono i parametri nell'IA? I numeri appresi con cui un modello prevede

Un parametro è un numero appreso, un peso della rete che l'addestramento regola e che il modello consulta a ogni token che prevede. 8B ne conta 8 miliardi, e la B sta per billion (miliardo) come la G di GB sta per giga. La scheda del modello di Meta descrive Llama 3.1 come "a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes". Non si conta nient'altro: né i dati di addestramento, né la finestra di contesto. Che cos'è un LLM spiega come vengono fissati i pesi.

Sulle schede dei modelli compaiono altre due lettere. M sta per milione, dove vivono i piccoli modelli di embedding e di visione, e T sta per trilione: la scheda di Kimi K3 dice 2.8T. Un nome come Qwen3.6 35B A3B, o i "284B parameters, 13B activated" di DeepSeek, indica un modello a mixture of experts, che memorizza ogni parametro ma ne usa solo una parte (3 miliardi su 35, nel caso di Qwen) per ogni token. I parametri attivi determinano la velocità. I parametri totali determinano la memoria, e quindi se il modello si carica o no.

Quanta memoria serve a un modello 8B? 16 GB a 16 bit, circa 5 GB quantizzato

Un modello 8B richiede circa 16 GB di memoria a 16 bit e circa 5 GB come download a 4 bit, quello che la maggior parte delle persone usa, più la memoria di lavoro per la conversazione. Il calcolo è parametri per byte per peso: 2 byte nei formati a 16 bit che i produttori pubblicano (la guida alla memoria di Hugging Face conta una copia fp16 dei pesi a 2 byte per parametro), 1 byte a 8 bit, mezzo byte a 4 bit. Ecco la famiglia Llama 3.1, che Ollama distribuisce in tutte e tre le taglie, verificata il 26 settembre 2026.

L'ultima colonna è una nostra divisione, dimensione del download in bit diviso per il numero di parametri, e mostra che la regola dei 4 bit sottostima di circa il 20 percento ciò che si scarica davvero: ogni taglia di Llama 3.1 arriva a 4.8 o 4.9 bit per peso, non 4. Quindi calcola 5 GB per un 8B, 43 GB per un 70B (la pagina llama3.3 di Ollama indica Llama 3.3 70B agli stessi 43 GB) e 243 GB per un 405B.

Ecco perché 8B è la taglia di cui parlano tutti: 4.9 GB stanno in un portatile con 16 GB di RAM o in una scheda grafica da 8 GB. La scheda di Mistral per Ministral 3 8B dice che sta in 12 GB di VRAM a FP8 e meno dopo la quantizzazione; quella per Mistral Small 3.1, un modello da 24B, dice una singola RTX 4090 o un MacBook da 32 GB una volta quantizzato. Un 70B da 43 GB richiede un Mac da 64 GB o due schede da 24 GB, e oltre si affitta un server.

Meglio 8B o 70B? Un 8B del 2026 batte un 70B del 2024

L'età batte la dimensione: Granite 4.2 8B di IBM, uscito il 25 agosto 2026, ottiene 11 nell'Intelligence Index, mentre Llama 3.3 70B di Meta, di dicembre 2024, ottiene 8 e Llama 3 70B, di aprile 2024, ottiene 5, una stima di Artificial Analysis. Il 70B ha quasi nove volte i pesi. Il numero registra quanto è grande la rete e non dice nulla sui dati o sulla ricetta con cui è stata addestrata, ed è lì che sono andati due anni di progressi. I punteggi qui sotto sono al 26 settembre 2026; i conteggi dei parametri sono quelli dei produttori.

All'interno di una stessa famiglia e di una stessa generazione la dimensione paga ancora: Granite 4.2 3B, 8B e 30B ottengono 9, 11 e 15. Tra generazioni diverse smette di pagare, e nelle righe mixture of experts totali e attivi divergono di 18 a 33 volte, quindi il numero in evidenza non è nemmeno quello che lavora su ogni token.

Gli stessi pesi possono finire a 14 punti di distanza. Qwen3.8 27B ottiene 20 nella modalità predefinita e 34 con lo sforzo di ragionamento portato a xhigh, perché l'indice misura anche quanto a lungo il modello pensa prima di rispondere. Che cos'è un modello di ragionamento spiega quella manopola.

Perché i modelli di punta GPT, Claude e Gemini non pubblicano il numero di parametri

I modelli di punta chiusi non pubblicano la dimensione perché il numero è un dettaglio competitivo, e per pesi che non puoi scaricare non ti dice nulla di utilizzabile. L'ultimo conteggio pubblicato da OpenAI per un GPT di frontiera è stato GPT-3 con 175 miliardi, nel documento del 2020 che lo introduceva; le dimensioni che pubblica sono per i suoi pesi aperti, e la scheda del modello gpt-oss di agosto 2025 assegna a gpt-oss-120b 116.8 miliardi di parametri totali e 5.1 miliardi attivi. Google ha dato le dimensioni solo per il suo Gemini Nano on-device, 1.8 miliardi e 3.25 miliardi di parametri nel rapporto su Gemini 1.0, e nessuna per Pro o Ultra. A settembre 2026, GPT-6 Astra e Claude Fable 5.1 ottengono entrambi 53 nella classifica di Artificial Analysis senza alcuna dimensione accanto, nove punti sopra Kimi K3, il più grande modello aperto con 2.8 trilioni.

Leggi il numero quando compri hardware, il punteggio quando compri risposte

Il numero di parametri è il primo da leggere se esegui un modello in proprio, perché decide se i pesi si caricano, e quasi l'ultimo se usi un prodotto di chat in hosting. Un fornitore in hosting ha già comprato l'hardware, quindi ciò che paghi segue il prezzo dei token, non la dimensione.

Per un uso privato o offline, un prodotto in hosting è lo strumento sbagliato: scarica i 4.9 GB di Llama 3.1 8B con Ollama, o gli stessi pesi con LM Studio, e non costa nulla oltre allo spazio su disco. La guida agli LLM open source spiega le licenze.