Was bedeutet 8B bei KI? 8 Milliarden Parameter, 5 GB zum Laufen

8B zählt Gewichte und sagt den Speicherbedarf weit besser voraus als die Qualität

Drei 8B-Modelle erreichen 6, 7 und 11 im Artificial Analysis Intelligence Index (ein Gesamtwert aus öffentlichen Tests für Reasoning, Coding und Wissen, abgelesen am 26. September 2026), und Kimi K3 speichert 2.8 Billionen Parameter, also 350-mal so viele, für 44. Das Diagramm zeigt 13 offene Modelle, für die beide Zahlen veröffentlicht sind; jede Zahl ist die Gesamtzahl aus der Model Card des Anbieters, jeder Score stammt aus dem Standardmodus, außer bei den drei mit max. Aufwand markierten, die mit maximalem Reasoning-Aufwand gemessen wurden.

Die gepunktete Linie ist die Frontier, der beste Score je Größe, und sie steigt um 33 Punkte bei einer 350-fachen Zunahme der Parameter. Darunter ist die Streuung bei gleicher Größe so breit wie die Streuung über alle Größen. Llama 4 Maverick speichert 400 Milliarden Parameter und erreicht 10, einen Punkt weniger als IBMs 8B.

Was sind Parameter bei KI? Die gelernten Zahlen, mit denen ein Modell vorhersagt

Ein Parameter ist eine gelernte Zahl, ein Gewicht im Netz, das beim Training angepasst wird und das das Modell bei jedem vorhergesagten Token heranzieht. 8B zählt 8 Milliarden davon, und das B steht für Billion im englischen Sinn (Milliarde), so wie das G in GB für Giga steht. Metas Model Card nennt Llama 3.1 "a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes". Sonst wird nichts gezählt: weder die Trainingsdaten noch das Kontextfenster. Was ist ein LLM erklärt, wie die Gewichte entstehen.

Zwei weitere Buchstaben tauchen auf Model Cards auf. M steht für Million, dort leben kleine Embedding- und Vision-Modelle, und T für Billion (englisch trillion): Auf der Karte von Kimi K3 steht 2.8T. Ein Name wie Qwen3.6 35B A3B oder DeepSeeks "284B parameters, 13B activated" kennzeichnet ein Mixture-of-Experts-Modell, das alle Parameter speichert, aber pro Token nur einen Ausschnitt nutzt (beim Qwen 3 Milliarden von 35). Die aktiven Parameter bestimmen die Geschwindigkeit. Die Gesamtparameter bestimmen den Speicher und damit, ob das Modell überhaupt lädt.

Wie viel Speicher braucht ein 8B-Modell? 16 GB bei 16 Bit, etwa 5 GB quantisiert

Ein 8B-Modell braucht etwa 16 GB Speicher bei 16 Bit und etwa 5 GB als 4-Bit-Download, den die meisten nutzen, plus Arbeitsspeicher für das Gespräch. Die Rechnung lautet Parameter mal Byte pro Gewicht: 2 Byte bei den 16-Bit-Formaten, die Anbieter veröffentlichen (der Speicherleitfaden von Hugging Face rechnet eine fp16-Kopie der Gewichte mit 2 Byte pro Parameter), 1 Byte bei 8 Bit, ein halbes Byte bei 4 Bit. Hier die Llama-3.1-Familie, die Ollama in allen drei Größen anbietet, geprüft am 26. September 2026.

Die letzte Spalte ist unsere eigene Division, Downloadgröße in Bit geteilt durch die Parameterzahl, und sie zeigt, dass die 4-Bit-Faustregel den tatsächlichen Download um etwa 20 Prozent zu niedrig ansetzt: Jede Llama-3.1-Größe landet bei 4.8 bis 4.9 Bit pro Gewicht, nicht bei 4. Plane also 5 GB für ein 8B, 43 GB für ein 70B (die llama3.3-Seite von Ollama nennt für Llama 3.3 70B dieselben 43 GB) und 243 GB für ein 405B.

Darum ist 8B die Größe, über die alle reden: 4.9 GB passen auf einen Laptop mit 16 GB RAM oder eine Grafikkarte mit 8 GB. Mistrals Karte für Ministral 3 8B sagt, es passe bei FP8 in 12 GB VRAM und nach Quantisierung in weniger; die Karte für Mistral Small 3.1, ein 24B-Modell, nennt nach Quantisierung eine einzelne RTX 4090 oder ein MacBook mit 32 GB. Ein 70B mit 43 GB braucht einen Mac mit 64 GB oder zwei Karten mit je 24 GB, und darüber mietest du einen Server.

Ist 8B oder 70B besser? Ein 8B von 2026 schlägt ein 70B von 2024

Alter schlägt Größe: IBMs Granite 4.2 8B, veröffentlicht am 25. August 2026, erreicht 11 im Intelligence Index, während Metas Llama 3.3 70B vom Dezember 2024 auf 8 kommt und Llama 3 70B vom April 2024 auf 5, eine Schätzung von Artificial Analysis. Das 70B hat fast neunmal so viele Gewichte. Die Zahl sagt, wie groß das Netz ist, aber nichts über die Daten oder das Rezept des Trainings, und genau dort steckt der Fortschritt von zwei Jahren. Die Scores unten gelten für den 26. September 2026; die Parameterzahlen stammen von den Anbietern.

Innerhalb einer Familie und einer Generation lohnt sich Größe weiterhin: Granite 4.2 3B, 8B und 30B erreichen 9, 11 und 15. Über Generationen hinweg lohnt sie sich nicht mehr, und bei den Mixture-of-Experts-Zeilen liegen Gesamt- und aktive Parameter um das 18- bis 33-Fache auseinander, die Schlagzeilenzahl ist also nicht einmal die, die pro Token die Arbeit macht.

Dieselben Gewichte können 14 Punkte auseinanderliegen. Qwen3.8 27B erreicht 20 im Standardmodus und 34 mit auf xhigh gedrehtem Reasoning-Aufwand, weil der Index auch misst, wie lange das Modell vor der Antwort nachdenkt. Was ist ein Reasoning-Modell erklärt diesen Regler.

Warum die Flaggschiffe von GPT, Claude und Gemini keine Parameterzahl nennen

Die geschlossenen Flaggschiffe nennen keine Größe, weil die Zahl ein Wettbewerbsdetail ist und bei Gewichten, die du nicht herunterladen kannst, nichts Nutzbares verrät. OpenAIs letzte veröffentlichte Zahl für ein Frontier-GPT war GPT-3 mit 175 Milliarden im Paper von 2020, das es vorstellte; Größen nennt OpenAI nur für offene Gewichte, und die Model Card von gpt-oss vom August 2025 gibt gpt-oss-120b mit 116.8 Milliarden gesamt und 5.1 Milliarden aktiven Parametern an. Google nannte Größen nur für das On-Device-Modell Gemini Nano, 1.8 und 3.25 Milliarden Parameter im Bericht zu Gemini 1.0, und keine für Pro oder Ultra. Stand September 2026 erreichen GPT-6 Astra und Claude Fable 5.1 beide 53 im Artificial-Analysis-Ranking ohne Größenangabe, neun Punkte über Kimi K3, dem größten offenen Modell mit 2.8 Billionen.

Beim Hardware-Kauf zählt die Parameterzahl, beim Kauf von Antworten der Score

Die Parameterzahl ist die erste Zahl, die du liest, wenn du ein Modell selbst betreibst, weil sie entscheidet, ob die Gewichte laden, und fast die letzte, wenn du ein gehostetes Chat-Produkt nutzt. Ein Anbieter hat die Hardware schon gekauft, dein Preis folgt also dem Tokenpreis, nicht der Größe.

Für private oder Offline-Nutzung ist ein gehostetes Produkt das falsche Werkzeug: Lade das 4.9 GB große Llama 3.1 8B über Ollama herunter, oder dieselben Gewichte über LM Studio, und es kostet nichts außer Speicherplatz. Der Leitfaden zu Open-Source-LLMs erklärt die Lizenzen.