parameter ai คืออะไร? 8B คือ 8 พันล้านพารามิเตอร์ ใช้หน่วยความจำ 5 GB

8B คือจำนวนค่าน้ำหนัก และบอกหน่วยความจำได้ดีกว่าบอกคุณภาพมาก

โมเดล 8B สามตัวได้ 6, 7 และ 11 บน Artificial Analysis Intelligence Index (คะแนนรวมจากข้อสอบสาธารณะด้านการให้เหตุผล การเขียนโค้ด และความรู้ อ่านเมื่อ 26 กันยายน 2026) ขณะที่ Kimi K3 เก็บพารามิเตอร์ 2.8 ล้านล้านตัว มากกว่า 350 เท่า เพื่อได้ 44 แผนภูมิแสดงโมเดลเปิด 13 ตัวที่เปิดเผยทั้งสองค่า จำนวนพารามิเตอร์เป็นยอดรวมจากโมเดลการ์ดของผู้พัฒนาเอง และคะแนนเป็นโหมดเริ่มต้น ยกเว้นสามตัวที่ระบุว่าความพยายามสูงสุด ซึ่งวัดที่ระดับความพยายามในการให้เหตุผลสูงสุด

เส้นประคือเส้นแนวหน้า หรือคะแนนที่ดีที่สุดในแต่ละขนาด ซึ่งเพิ่มขึ้น 33 คะแนนเมื่อพารามิเตอร์เพิ่มขึ้น 350 เท่า ใต้เส้นนี้ ความต่างของคะแนนในขนาดเดียวกันกว้างพอ ๆ กับความต่างข้ามขนาด Llama 4 Maverick เก็บพารามิเตอร์ 400 พันล้านตัวแต่ได้ 10 ต่ำกว่า 8B ของ IBM อยู่หนึ่งคะแนน

พารามิเตอร์ใน AI คืออะไร? ตัวเลขที่โมเดลเรียนรู้และใช้ทำนาย

พารามิเตอร์คือตัวเลขที่เรียนรู้มาหนึ่งตัว เป็นค่าน้ำหนักในเครือข่ายที่การฝึกปรับแต่ง และโมเดลเปิดดูทุกครั้งที่ทำนายแต่ละโทเค็น 8B นับได้ 8 พันล้านตัว และ B คือ billion เหมือน G ใน GB ที่มาจาก giga โมเดลการ์ดของ Meta เรียก Llama 3.1 ว่า "a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes" ไม่มีอะไรอื่นถูกนับ ไม่ใช่ข้อมูลฝึก ไม่ใช่หน้าต่างบริบท What is an LLM อธิบายว่าค่าน้ำหนักถูกตั้งอย่างไร

บนโมเดลการ์ดยังมีอีกสองตัวอักษร M คือ million ซึ่งเป็นขนาดของโมเดลฝังข้อความและโมเดลภาพขนาดเล็ก และ T คือ trillion โดยการ์ดของ Kimi K3 ระบุ 2.8T ชื่ออย่าง Qwen3.6 35B A3B หรือ "284B parameters, 13B activated" ของ DeepSeek บ่งบอกโมเดลแบบ mixture of experts ซึ่งเก็บพารามิเตอร์ทั้งหมดแต่ใช้เพียงส่วนเดียว (3 พันล้านจาก 35 ในกรณีของ Qwen) ต่อหนึ่งโทเค็น พารามิเตอร์ที่ใช้งานกำหนดความเร็ว ส่วนพารามิเตอร์รวมกำหนดหน่วยความจำ และตัดสินว่าโมเดลโหลดได้หรือไม่

โมเดล 8B ใช้หน่วยความจำเท่าไร? 16 GB ที่ 16 บิต ราว 5 GB เมื่อควอนไทซ์

โมเดล 8B ใช้หน่วยความจำราว 16 GB ที่ 16 บิต และราว 5 GB สำหรับไฟล์ 4 บิตที่คนส่วนใหญ่ใช้ บวกหน่วยความจำทำงานสำหรับบทสนทนา สูตรคือจำนวนพารามิเตอร์คูณไบต์ต่อน้ำหนัก: 2 ไบต์ในรูปแบบ 16 บิตที่ผู้พัฒนาเผยแพร่ (คู่มือหน่วยความจำของ Hugging Face นับสำเนา fp16 ที่ 2 ไบต์ต่อพารามิเตอร์) 1 ไบต์ที่ 8 บิต และครึ่งไบต์ที่ 4 บิต นี่คือตระกูล Llama 3.1 ซึ่ง Ollama มีให้ครบสามขนาด ตรวจเมื่อ 26 กันยายน 2026

คอลัมน์สุดท้ายเป็นการหารของเราเอง คือขนาดไฟล์เป็นบิตหารด้วยจำนวนพารามิเตอร์ และแสดงว่ากฎคร่าว ๆ ของ 4 บิตประเมินขนาดที่ดาวน์โหลดจริงต่ำไปราว 20 เปอร์เซ็นต์: ทุกขนาดของ Llama 3.1 อยู่ที่ 4.8 ถึง 4.9 บิตต่อน้ำหนัก ไม่ใช่ 4 ดังนั้นให้เผื่อ 5 GB สำหรับ 8B, 43 GB สำหรับ 70B (หน้า llama3.3 ของ Ollama ระบุ Llama 3.3 70B ที่ 43 GB เท่ากัน) และ 243 GB สำหรับ 405B

นี่คือเหตุผลที่ 8B เป็นขนาดที่ทุกคนพูดถึง: 4.9 GB ใส่ได้ในแล็ปท็อปที่มี RAM 16 GB หรือการ์ดจอ 8 GB การ์ดของ Mistral สำหรับ Ministral 3 8B ระบุว่าใส่ใน VRAM 12 GB ที่ FP8 และน้อยกว่านั้นหลังควอนไทซ์ ส่วนการ์ดของ Mistral Small 3.1 โมเดล 24B ระบุว่า RTX 4090 ใบเดียวหรือ MacBook 32 GB เมื่อควอนไทซ์ ส่วน 70B ที่ 43 GB ต้องใช้ Mac 64 GB หรือการ์ด 24 GB สองใบ และมากกว่านั้นต้องเช่าเซิร์ฟเวอร์

8B หรือ 70B ดีกว่ากัน? 8B ปี 2026 ชนะ 70B ปี 2024

อายุชนะขนาด: Granite 4.2 8B ของ IBM ที่ออกเมื่อ 25 สิงหาคม 2026 ได้ 11 บน Intelligence Index ขณะที่ Llama 3.3 70B ของ Meta จากธันวาคม 2024 ได้ 8 และ Llama 3 70B จากเมษายน 2024 ได้ 5 ซึ่งเป็นค่าประมาณของ Artificial Analysis 70B มีค่าน้ำหนักมากกว่าเกือบเก้าเท่า จำนวนนี้บอกแค่ว่าเครือข่ายใหญ่เพียงใด แต่ไม่บอกอะไรเกี่ยวกับข้อมูลหรือสูตรที่ใช้ฝึก ซึ่งเป็นจุดที่ความก้าวหน้าสองปีไปอยู่ คะแนนด้านล่างเป็นข้อมูล ณ 26 กันยายน 2026 ส่วนจำนวนพารามิเตอร์มาจากผู้พัฒนาเอง

ภายในตระกูลและรุ่นเดียวกัน ขนาดยังให้ผล: Granite 4.2 3B, 8B และ 30B ได้ 9, 11 และ 15 แต่ข้ามรุ่น ขนาดไม่ให้ผลอีกต่อไป และในแถว mixture of experts ค่ารวมกับค่าที่ใช้งานต่างกัน 18 ถึง 33 เท่า ตัวเลขพาดหัวจึงไม่ใช่ตัวที่ทำงานจริงในแต่ละโทเค็นด้วยซ้ำ

ค่าน้ำหนักชุดเดียวกันอาจได้คะแนนต่างกัน 14 คะแนน Qwen3.8 27B ได้ 20 ในโหมดเริ่มต้น และ 34 เมื่อปรับความพยายามในการให้เหตุผลเป็น xhigh เพราะดัชนีนี้วัดด้วยว่าโมเดลคิดนานแค่ไหนก่อนตอบ What is a reasoning model อธิบายปุ่มปรับนี้

ทำไมเรือธงอย่าง GPT, Claude และ Gemini ไม่เปิดเผยจำนวนพารามิเตอร์

เรือธงแบบปิดไม่เปิดเผยขนาดเพราะตัวเลขนี้เป็นรายละเอียดทางการแข่งขัน และสำหรับค่าน้ำหนักที่ดาวน์โหลดไม่ได้ มันไม่ได้บอกอะไรที่ใช้ประโยชน์ได้ จำนวนล่าสุดที่ OpenAI เปิดเผยสำหรับ GPT ระดับแนวหน้าคือ GPT-3 ที่ 175 พันล้าน ในเอกสารปี 2020 ที่แนะนำโมเดลนี้ ขนาดที่เปิดเผยเป็นของโมเดลน้ำหนักเปิด และโมเดลการ์ด gpt-oss เดือนสิงหาคม 2025 ระบุ gpt-oss-120b รวม 116.8 พันล้านและใช้งาน 5.1 พันล้านพารามิเตอร์ Google ให้ขนาดเฉพาะ Gemini Nano บนอุปกรณ์ คือ 1.8 พันล้านและ 3.25 พันล้านพารามิเตอร์ในรายงาน Gemini 1.0 และไม่ให้ของ Pro หรือ Ultra ณ เดือนกันยายน 2026 GPT-6 Astra และ Claude Fable 5.1 ได้ 53 บนลีดเดอร์บอร์ดของ Artificial Analysis โดยไม่มีขนาดกำกับ สูงกว่า Kimi K3 โมเดลเปิดที่ใหญ่สุดที่ 2.8 ล้านล้านอยู่เก้าคะแนน

ดูจำนวนพารามิเตอร์เมื่อซื้อฮาร์ดแวร์ ดูคะแนนเมื่อซื้อคำตอบ

จำนวนพารามิเตอร์เป็นตัวเลขแรกที่ต้องดูถ้าคุณรันโมเดลเอง เพราะมันตัดสินว่าค่าน้ำหนักโหลดได้หรือไม่ และเกือบเป็นตัวเลขสุดท้ายที่ต้องดูถ้าคุณใช้แชตแบบโฮสต์ ผู้ให้บริการซื้อฮาร์ดแวร์ไว้แล้ว สิ่งที่คุณจ่ายจึงตามราคาโทเค็น ไม่ใช่ขนาด

สำหรับงานส่วนตัวหรือออฟไลน์ ผลิตภัณฑ์แบบโฮสต์เป็นเครื่องมือที่ไม่เหมาะ: ดาวน์โหลด Llama 3.1 8B ขนาด 4.9 GB ผ่าน Ollama หรือค่าน้ำหนักชุดเดียวกันผ่าน LM Studio แล้วไม่มีค่าใช้จ่ายนอกจากพื้นที่ดิสก์ open source LLM guide อธิบายเรื่องไลเซนส์