
8Bは重みの数であり、品質よりメモリをはるかによく予測する
Artificial Analysis Intelligence Index(推論、コーディング、知識の公開テストを合成した指標、2026年9月26日時点)で、3つの8Bモデルのスコアは6、7、11です。一方、Kimi K3は350倍にあたる2.8兆パラメータを保持して44を記録します。グラフは、両方の数字が公開されている13のオープンモデルを表示しています。パラメータ数は各ベンダー自身のモデルカードにある総数で、スコアは既定モードのものです。ただし最大エフォートと記した3つは、最大の推論エフォートで測っています。
点線はフロンティア、つまり各サイズでの最高スコアで、パラメータが350倍になる間に33ポイント上がります。その下では、同じサイズ内のばらつきが、サイズ間の差と同じくらい大きくなっています。Llama 4 Maverickは4,000億パラメータを持ちながらスコアは10で、IBMの8Bより1ポイント低いのです。
AIのパラメータとは?モデルが予測に使う学習済みの数値
パラメータとは、学習された1つの数値、つまりネットワーク内の重みのことです。学習によって調整され、モデルは予測するトークンごとにそれを参照します。8Bはそれが80億個あるという意味で、BはGBのGがギガであるのと同じようにbillion(10億)を表します。Metaのモデルカードは、Llama 3.1を「8B、70B、405Bのサイズで提供される、事前学習済みおよび指示チューニング済みの生成モデル群」と呼んでいます。数えているのはそれだけで、学習データやコンテキストウィンドウは含みません。重みがどう決まるかはLLMとはで解説しています。
モデルカードには、ほかに2つの文字が出てきます。Mはミリオン(100万)で、小さな埋め込みモデルや画像モデルがこの範囲にあります。Tはトリリオン(1兆)で、Kimi K3のカードには2.8Tとあります。Qwen3.6 35B A3Bや、DeepSeekの「284Bパラメータ、13Bアクティブ」といった表記は、Mixture of Expertsモデルを示します。すべてのパラメータを保持しつつ、1トークンごとに使うのはその一部だけです(Qwenの例では35のうち30億)。アクティブパラメータは速度を決めます。総パラメータはメモリを決め、つまりモデルがそもそも読み込めるかどうかを決めます。
8Bモデルに必要なメモリは?16ビットで16GB、量子化すれば約5GB
8Bモデルに必要なメモリは、16ビットなら約16GB、多くの人が使う4ビット版のダウンロードなら約5GBで、これに会話用の作業メモリが加わります。計算式はパラメータ数かける1重みあたりのバイト数です。ベンダーが公開する16ビット形式は2バイト(Hugging Faceのメモリガイドも、fp16の重みを1パラメータ2バイトで数えます)、8ビットは1バイト、4ビットは半バイトです。以下は、Ollamaが3つのサイズすべてを提供しているLlama 3.1ファミリーで、2026年9月26日に確認したものです。
| Llama 3.1のサイズ | 16ビット | 8ビット | 4ビット、純粋な計算値 | Ollamaのダウンロード | そのダウンロードの1重みあたりビット数 |
|---|---|---|---|---|---|
| 8B | 16 GB | 8 GB | 4 GB | 4.9 GB | 4.9 |
| 70B | 140 GB | 70 GB | 35 GB | 43 GB | 4.9 |
| 405B | 810 GB | 405 GB | 203 GB | 243 GB | 4.8 |
最後の列は当サイト独自の計算で、ダウンロードサイズ(ビット換算)をパラメータ数で割ったものです。4ビットという目安では、実際のダウンロードサイズを約20パーセント少なく見積もることがわかります。Llama 3.1のどのサイズも、1重みあたり4ではなく4.8から4.9ビットに収まるからです。したがって、8Bは5GB、70Bは43GB(Ollamaのllama3.3ページでもLlama 3.3 70Bは同じ43GB)、405Bは243GBを見込んでください。
8Bが誰もが話題にするサイズなのは、4.9GBならRAM 16GBのノートパソコンや8GBのグラフィックスカードに収まるからです。MistralのMinistral 3 8Bのカードには、FP8で12GBのVRAMに収まり、量子化すればさらに少なくて済むとあります。24BモデルのMistral Small 3.1のカードには、量子化後はRTX 4090 1枚または32GBのMacBookで動くとあります。43GBの70Bには64GBのMacか24GBのカード2枚が必要で、それを超えるとサーバーを借りることになります。
8Bと70Bはどちらが優れている?2026年の8Bは2024年の70Bに勝つ
サイズより新しさが勝ちます。2026年8月25日にリリースされたIBMのGranite 4.2 8BはIntelligence Indexで11、2024年12月のMetaのLlama 3.3 70Bは8、2024年4月のLlama 3 70Bは5(Artificial Analysisの推定)です。70Bの重みは9倍近くあります。パラメータ数はネットワークの大きさを表すだけで、学習に使ったデータやレシピについては何も語りません。この2年間の進歩はそこにありました。以下のスコアは2026年9月26日時点のもので、パラメータ数は各ベンダー自身の公表値です。
| モデル | パラメータ(総数、Mixture of Expertsならアクティブ数) | Intelligence Index |
|---|---|---|
| Granite 4.2 8B (IBM) | 8B、Dense | 11 |
| Llama 3.1 8B (Meta) | 8B、Dense | 7 |
| Qwen3 8B (Alibaba) | 8.2B、Dense | 6 |
| Qwen3.8 27B (Alibaba) | 27B、Dense | 20 |
| Gemma 4 31B (Google) | 30.7B、Dense | 19 |
| Llama 3.3 70B (Meta) | 70B、Dense | 8 |
| Mistral Small 4 (Mistral) | 総数119B、アクティブ6.5B | 11 |
| DeepSeek V4 Flash (DeepSeek) | 総数284B、アクティブ13B | 最大エフォートで34 |
| Llama 4 Maverick (Meta) | 総数400B、アクティブ17B | 10 |
| DeepSeek V4 Pro (DeepSeek) | 総数1.6T、アクティブ49B | 最大エフォートで36 |
| Kimi K3 (Moonshot) | 総数2.8T、アクティブ104B | 最大エフォートで44 |
| GPT-6 Astra (OpenAI) | 非公開 | 53 |
| Claude Fable 5.1 (Anthropic) | 非公開 | 53 |
同じファミリー、同じ世代の中では、サイズは今も効きます。Granite 4.2の3B、8B、30Bのスコアは9、11、15です。世代をまたぐと効かなくなり、Mixture of Expertsの行では総数とアクティブ数が18倍から33倍も開くため、見出しの数字は各トークンで実際に働いている数字ですらありません。
同じ重みでも、スコアが14ポイント違うことがあります。Qwen3.8 27Bは既定モードで20、推論エフォートをxhighに上げると34です。この指標は、モデルが答える前にどれだけ考えるかも測るためです。そのつまみについては推論モデルとはで解説しています。
GPT、Claude、Geminiの主力モデルがパラメータ数を公表しない理由
クローズドな主力モデルがサイズを公表しないのは、その数が競争上の情報であり、ダウンロードできない重みについては使い道のある情報にならないからです。OpenAIが最後に公表した最先端GPTのパラメータ数は、2020年に発表した論文のGPT-3の1,750億でした。現在公表しているのはオープンウェイトのモデルのサイズで、2025年8月のgpt-ossのモデルカードは、gpt-oss-120bを総数1,168億、アクティブ51億パラメータとしています。Googleがサイズを示したのは端末内で動くGemini Nanoだけで、Gemini 1.0のレポートでは18億と32.5億パラメータ、ProとUltraについては示していません。2026年9月時点で、GPT-6 AstraとClaude Fable 5.1はいずれもArtificial Analysisのリーダーボードで53ですが、横にサイズの記載はなく、最大のオープンモデルである2.8兆のKimi K3を9ポイント上回っています。
ハードウェアを買うときは数を、答えを買うときはスコアを見る
自分でモデルを動かすなら、パラメータ数は最初に読むべき数字です。重みが読み込めるかどうかを決めるからです。一方、ホスト型のチャット製品を使うなら、ほとんど最後に見る数字です。ホスト側はすでにハードウェアを購入済みなので、支払う金額はサイズではなくトークン価格に連動します。
プライベートな利用やオフライン利用に、ホスト型の製品は向きません。4.9GBのLlama 3.1 8BをOllamaで、または同じ重みをLM Studioでダウンロードすれば、ディスク容量以外の費用はかかりません。ライセンスについてはオープンソースLLMガイドで解説しています。
- BはBillion(10億)パラメータと読み、MとTはミリオン、トリリオンと読む。GBが単位であるのと同じ
- メモリは、パラメータ数に1重みあたりのバイト数をかけて求める。16ビットは2、8ビットは1、実際の4ビットのダウンロードは約0.6。会話用の余裕も加える
- Mixture of Expertsモデルでは、メモリには総数、速度にはアクティブ数を見る
- サイズより先にリリース日を確認する。2026年の8Bは2024年の70Bを上回る
- モデルの比較は、パラメータ数だけでなく、今年測ったタスクのスコアで行う
よくある質問
AIで70Bとはどういう意味?
70Bは700億パラメータで、8Bモデルの9倍近くです。16ビットでは約140GBのメモリが必要で、OllamaのLlama 3.1 70BとLlama 3.3 70Bの4ビット版ダウンロードはどちらも43GBです。そのため70Bモデルには、64GBのMac、24GBのグラフィックスカード2枚、またはレンタルのサーバーが必要です。
8Bモデルを動かすのに必要なRAMは?
4ビットの8Bモデルは、約8GBの空きメモリで動きます。Llama 3.1 8Bのダウンロードは4.9GBで、その上に会話用の余裕が必要です。RAM 16GBのノートパソコンか、VRAM 8GBのグラフィックスカードが、余裕を持てる最低ラインです。フル精度の16ビットでは、同じモデルが重みだけで約16GB必要です。
7B、13B、70Bのどれが優れている?
サイズに関係なく、収まる中で最も新しいモデルが優れています。世代をまたぐと新しさが勝ちます。2026年のGranite 4.2 8BはArtificial AnalysisのIntelligence Indexで11、2024年のLlama 3.3 70Bは8です。メモリで見ると、7Bと8Bはノートパソコンに収まり、13Bは4ビットで約8GBなので12GBのカードに収まり、70Bにはサーバーか64GBのMacが必要です。