8B là số lượng trọng số, và nó dự đoán bộ nhớ tốt hơn nhiều so với chất lượng
Ba mô hình 8B đạt 6, 7 và 11 điểm trên Artificial Analysis Intelligence Index (điểm tổng hợp từ các bài kiểm tra công khai về suy luận, lập trình và kiến thức, đọc ngày 26 tháng 9 năm 2026), trong khi Kimi K3 lưu 2.8 nghìn tỷ tham số, gấp 350 lần, để đạt 44. Biểu đồ vẽ 13 mô hình mở có đủ cả hai con số; mỗi số tham số là tổng lấy từ model card của chính nhà phát triển, và mỗi điểm là ở chế độ mặc định, trừ ba mô hình ghi nỗ lực tối đa được chấm ở mức nỗ lực suy luận cao nhất.
Đường chấm là đường biên, tức điểm tốt nhất ở mỗi cỡ, và nó chỉ tăng 33 điểm khi số tham số tăng 350 lần. Bên dưới đường này, độ chênh ở cùng một cỡ cũng rộng ngang độ chênh giữa các cỡ. Llama 4 Maverick lưu 400 tỷ tham số mà chỉ đạt 10, kém 8B của IBM một điểm.
Tham số trong AI là gì? Những con số đã học mà mô hình dùng để dự đoán
Một tham số là một con số đã học, một trọng số trong mạng mà quá trình huấn luyện điều chỉnh và mô hình tra cứu ở mỗi token nó dự đoán. 8B đếm 8 tỷ tham số như vậy, và chữ B là billion (tỷ) giống như chữ G trong GB là giga. Model card của Meta mô tả Llama 3.1 là "a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes". Không có gì khác được đếm: không phải dữ liệu huấn luyện, cũng không phải cửa sổ ngữ cảnh. LLM là gì giải thích cách các trọng số được thiết lập.
Còn hai chữ cái nữa xuất hiện trên model card. M là triệu, nơi các mô hình nhúng và thị giác nhỏ tồn tại, và T là nghìn tỷ: card của Kimi K3 ghi 2.8T. Một tên như Qwen3.6 35B A3B, hay "284B parameters, 13B activated" của DeepSeek, đánh dấu mô hình hỗn hợp chuyên gia (mixture of experts), lưu mọi tham số nhưng chỉ dùng một phần (3 tỷ trên 35 tỷ, với Qwen) cho mỗi token. Tham số hoạt động quyết định tốc độ. Tổng tham số quyết định bộ nhớ, và do đó quyết định mô hình có tải lên được hay không.
Mô hình 8B cần bao nhiêu bộ nhớ? 16 GB ở 16 bit, khoảng 5 GB khi lượng tử hóa
Một mô hình 8B cần khoảng 16 GB bộ nhớ ở 16 bit và khoảng 5 GB ở bản tải 4 bit mà đa số người dùng chạy, cộng thêm bộ nhớ làm việc cho cuộc trò chuyện. Phép tính là số tham số nhân số byte mỗi trọng số: 2 byte ở các định dạng 16 bit mà nhà phát triển công bố (hướng dẫn bộ nhớ của Hugging Face tính một bản fp16 của trọng số là 2 byte mỗi tham số), 1 byte ở 8 bit, nửa byte ở 4 bit. Dưới đây là họ Llama 3.1, được Ollama phát hành đủ ba cỡ, kiểm tra ngày 26 tháng 9 năm 2026.
| Cỡ Llama 3.1 | 16 bit | 8 bit | 4 bit, tính thuần túy | Bản tải của Ollama | Bit mỗi trọng số trong bản tải đó |
|---|---|---|---|---|---|
| 8B | 16 GB | 8 GB | 4 GB | 4.9 GB | 4.9 |
| 70B | 140 GB | 70 GB | 35 GB | 43 GB | 4.9 |
| 405B | 810 GB | 405 GB | 203 GB | 243 GB | 4.8 |
Cột cuối là phép chia do chúng tôi tự tính, dung lượng tải theo bit chia cho số tham số, và nó cho thấy quy tắc 4 bit ước lượng thấp hơn khoảng 20 phần trăm so với thứ bạn thực sự tải về: mọi cỡ Llama 3.1 đều rơi vào 4.8 đến 4.9 bit mỗi trọng số, không phải 4. Vì vậy hãy dự trù 5 GB cho 8B, 43 GB cho 70B (trang llama3.3 của Ollama ghi Llama 3.3 70B cũng 43 GB) và 243 GB cho 405B.
Đó là lý do 8B là cỡ ai cũng nhắc tới: 4.9 GB vừa với laptop 16 GB RAM hoặc card đồ họa 8 GB. Card của Mistral cho Ministral 3 8B nói nó vừa với 12 GB VRAM ở FP8 và ít hơn sau khi lượng tử hóa; card cho Mistral Small 3.1, mô hình 24B, nói một RTX 4090 đơn hoặc MacBook 32 GB sau khi lượng tử hóa. Một mô hình 70B ở 43 GB cần Mac 64 GB hoặc hai card 24 GB, và trên mức đó bạn phải thuê máy chủ.
8B hay 70B tốt hơn? Một mô hình 8B năm 2026 vượt 70B năm 2024
Độ mới thắng kích thước: Granite 4.2 8B của IBM, phát hành ngày 25 tháng 8 năm 2026, đạt 11 điểm trên Intelligence Index, trong khi Llama 3.3 70B của Meta từ tháng 12 năm 2024 đạt 8 và Llama 3 70B từ tháng 4 năm 2024 đạt 5, theo ước tính của Artificial Analysis. Mô hình 70B có số trọng số gấp gần chín lần. Con số này cho biết mạng lớn đến đâu và không nói gì về dữ liệu hay công thức huấn luyện, nơi hai năm tiến bộ đã dồn vào. Điểm bên dưới tính đến ngày 26 tháng 9 năm 2026; số tham số là của chính các nhà phát triển.
| Mô hình | Tham số (tổng, và hoạt động nếu là mixture of experts) | Intelligence Index |
|---|---|---|
| Granite 4.2 8B (IBM) | 8B, dense | 11 |
| Llama 3.1 8B (Meta) | 8B, dense | 7 |
| Qwen3 8B (Alibaba) | 8.2B, dense | 6 |
| Qwen3.8 27B (Alibaba) | 27B, dense | 20 |
| Gemma 4 31B (Google) | 30.7B, dense | 19 |
| Llama 3.3 70B (Meta) | 70B, dense | 8 |
| Mistral Small 4 (Mistral) | 119B tổng, 6.5B hoạt động | 11 |
| DeepSeek V4 Flash (DeepSeek) | 284B tổng, 13B hoạt động | 34 ở nỗ lực tối đa |
| Llama 4 Maverick (Meta) | 400B tổng, 17B hoạt động | 10 |
| DeepSeek V4 Pro (DeepSeek) | 1.6T tổng, 49B hoạt động | 36 ở nỗ lực tối đa |
| Kimi K3 (Moonshot) | 2.8T tổng, 104B hoạt động | 44 ở nỗ lực tối đa |
| GPT-6 Astra (OpenAI) | chưa công bố | 53 |
| Claude Fable 5.1 (Anthropic) | chưa công bố | 53 |
Trong cùng một họ và một thế hệ, kích thước vẫn có giá trị: Granite 4.2 3B, 8B và 30B đạt 9, 11 và 15. Qua các thế hệ thì không còn nữa, và ở các hàng mixture of experts, tổng và hoạt động chênh nhau 18 đến 33 lần, nên con số trên tiêu đề thậm chí không phải thứ làm việc ở mỗi token.
Cùng bộ trọng số có thể chênh nhau 14 điểm. Qwen3.8 27B đạt 20 ở chế độ mặc định và 34 khi nâng nỗ lực suy luận lên xhigh, vì chỉ số này còn đo mô hình nghĩ bao lâu trước khi trả lời. Mô hình suy luận là gì giải thích núm chỉnh đó.
Vì sao các mô hình đầu bảng GPT, Claude và Gemini không công bố số tham số
Các mô hình đầu bảng đóng không công bố kích thước vì con số này là chi tiết cạnh tranh, và với trọng số bạn không thể tải về thì nó chẳng cho bạn thông tin nào dùng được. Số tham số gần nhất OpenAI công bố cho một GPT tiên tiến là GPT-3 với 175 tỷ, trong bài báo năm 2020 giới thiệu nó; những kích thước họ công bố là của các trọng số mở, và model card gpt-oss tháng 8 năm 2025 ghi gpt-oss-120b có 116.8 tỷ tham số tổng và 5.1 tỷ hoạt động. Google chỉ nêu kích thước cho Gemini Nano chạy trên thiết bị, 1.8 tỷ và 3.25 tỷ tham số trong báo cáo Gemini 1.0, và không nêu cho Pro hay Ultra. Tính đến tháng 9 năm 2026, GPT-6 Astra và Claude Fable 5.1 đều đạt 53 trên bảng xếp hạng Artificial Analysis mà không có kích thước nào bên cạnh, hơn Kimi K3, mô hình mở lớn nhất với 2.8 nghìn tỷ, chín điểm.
Đọc số tham số khi mua phần cứng, đọc điểm số khi mua câu trả lời
Số tham số là con số đầu tiên cần đọc nếu bạn tự chạy mô hình, vì nó quyết định trọng số có tải được không, và gần như là con số cuối cùng nếu bạn dùng sản phẩm chat trên nền tảng. Nhà cung cấp đã mua sẵn phần cứng, nên số tiền bạn trả đi theo giá token, không theo kích thước.
Với nhu cầu riêng tư hoặc ngoại tuyến, sản phẩm lưu trữ trực tuyến là công cụ sai: hãy tải Llama 3.1 8B nặng 4.9 GB qua Ollama, hoặc cùng bộ trọng số đó qua LM Studio, và nó không tốn gì ngoài dung lượng ổ đĩa. Hướng dẫn LLM mã nguồn mở giải thích các giấy phép.
- Đọc B là tỷ tham số, còn M hoặc T là triệu hoặc nghìn tỷ, giống như GB là một đơn vị
- Nhân số tham số với số byte mỗi trọng số để ra bộ nhớ: 2 ở 16 bit, 1 ở 8 bit, khoảng 0.6 cho bản tải 4 bit thực tế, cộng chỗ cho cuộc trò chuyện
- Lấy tổng số tham số để tính bộ nhớ và số tham số hoạt động để tính tốc độ với mọi mô hình mixture of experts
- Kiểm tra ngày phát hành trước kích thước; một mô hình 8B năm 2026 vượt 70B năm 2024
- So sánh mô hình bằng điểm theo tác vụ đọc trong năm nay, đừng bao giờ chỉ dựa vào số tham số
Câu hỏi thường gặp
70B nghĩa là gì trong AI?
70B nghĩa là 70 tỷ tham số, gần gấp chín lần một mô hình 8B. Ở 16 bit đó là khoảng 140 GB bộ nhớ, và các bản tải 4 bit của Llama 3.1 70B lẫn Llama 3.3 70B trên Ollama đều là 43 GB, nên mô hình 70B cần Mac 64 GB, hai card đồ họa 24 GB hoặc một máy chủ thuê.
Cần bao nhiêu RAM để chạy mô hình 8B?
Khoảng 8 GB bộ nhớ trống chạy được mô hình 8B ở 4 bit: bản tải Llama 3.1 8B nặng 4.9 GB, và cuộc trò chuyện cần thêm chỗ. Laptop 16 GB RAM hoặc card đồ họa 8 GB VRAM là mức tối thiểu thoải mái. Ở độ chính xác 16 bit đầy đủ, riêng trọng số của cùng mô hình đã cần khoảng 16 GB.
Mô hình 7B, 13B hay 70B tốt hơn?
Mô hình mới nhất mà bạn chạy vừa được là tốt hơn, bất kể kích thước. Qua các thế hệ, độ mới thắng: Granite 4.2 8B năm 2026 đạt 11 trên Artificial Analysis Intelligence Index trong khi Llama 3.3 70B năm 2024 đạt 8. Xét theo bộ nhớ, 7B và 8B vừa laptop, 13B khoảng 8 GB ở 4 bit và vừa card 12 GB, còn 70B cần máy chủ hoặc Mac 64 GB.
