8B ne demek? Yapay zekada 8 milyar parametre, çalıştırmak için 5 GB

8B bir ağırlık sayısıdır ve kaliteden çok belleği öngörür

Üç 8B model, Artificial Analysis Intelligence Index'te (akıl yürütme, kodlama ve bilgi alanındaki herkese açık testlerin bileşik puanı, 26 Eylül 2026'da okundu) 6, 7 ve 11 alıyor; Kimi K3 ise 350 kat fazla, 2.8 trilyon parametre saklayarak 44 alıyor. Grafik, her iki sayısı da yayımlanmış 13 açık modeli gösterir; her sayı üreticinin kendi model kartındaki toplam değerdir, her puan da varsayılan moddur. Maksimum çaba olarak işaretlenen üç model ise maksimum akıl yürütme çabasıyla puanlanmıştır.

Noktalı çizgi sınırdır, yani her boyuttaki en iyi puandır ve parametrelerin 350 kat artmasıyla 33 puan yükselir. Çizginin altında, tek bir boyuttaki dağılım boyutlar arasındaki dağılım kadar geniştir. Llama 4 Maverick 400 milyar parametre saklar ve 10 alır, yani IBM'in 8B modelinin bir puan altındadır.

Yapay zekada parametre nedir? Modelin tahmin yaparken kullandığı öğrenilmiş sayılar

Parametre, öğrenilmiş tek bir sayıdır: ağdaki bir ağırlıktır, eğitim onu ayarlar ve model tahmin ettiği her token için ona başvurur. 8B bunlardan 8 milyar tane sayar; B, GB'deki G'nin giga olması gibi milyar anlamına gelir. Meta'nın model kartı Llama 3.1'i "8B, 70B ve 405B boyutlarında önceden eğitilmiş ve talimatla ayarlanmış üretken modellerden oluşan bir koleksiyon" diye tanımlar. Başka hiçbir şey sayılmaz: ne eğitim verisi ne de bağlam penceresi. LLM nedir yazısı ağırlıkların nasıl belirlendiğini anlatır.

Model kartlarında iki harf daha görürsün. M milyon demektir ve küçük gömme ve görü modelleri burada yaşar; T ise trilyondur: Kimi K3'ün kartında 2.8T yazar. Qwen3.6 35B A3B gibi bir ad ya da DeepSeek'in "284B parametre, 13B etkin" ifadesi, uzmanlar karışımı bir modeli gösterir: her parametreyi saklar ama herhangi bir token için yalnızca bir dilimini kullanır (Qwen örneğinde 35 milyardan 3 milyarını). Aktif parametreler hızı belirler. Toplam parametreler belleği belirler, dolayısıyla modelin hiç yüklenip yüklenmeyeceğini de.

8B model ne kadar bellek ister? 16 bitte 16 GB, nicemlenmişse yaklaşık 5 GB

8B bir model, 16 bitte yaklaşık 16 GB, çoğu kişinin çalıştırdığı 4 bitlik indirmede ise yaklaşık 5 GB bellek ister; buna sohbet için çalışma belleği de eklenir. Hesap parametre çarpı ağırlık başına bayttır: üreticilerin yayımladığı 16 bitlik biçimlerde 2 bayt (Hugging Face'in bellek rehberi ağırlıkların fp16 kopyasını parametre başına 2 bayt sayar), 8 bitte 1 bayt, 4 bitte yarım bayt. Aşağıda, Ollama'nın üç boyutta da sunduğu Llama 3.1 ailesi var, 26 Eylül 2026'da kontrol edildi.

Son sütun bizim kendi bölmemizdir: indirme boyutunun bit cinsinden değerinin parametre sayısına oranı. Gösterdiği şey, 4 bit pratik kuralının gerçekte indirdiğini yaklaşık yüzde 20 eksik saydığıdır: her Llama 3.1 boyutu ağırlık başına 4 değil, 4.8 ile 4.9 bite oturur. Yani 8B için 5 GB, 70B için 43 GB (Ollama'nın llama3.3 sayfası Llama 3.3 70B'yi aynı 43 GB ile listeler) ve 405B için 243 GB ayır.

8B'nin herkesin konuştuğu boyut olmasının nedeni bu: 4.9 GB, 16 GB RAM'li bir dizüstüne ya da 8 GB'lık bir ekran kartına sığar. Mistral'in Ministral 3 8B kartı, FP8'de 12 GB VRAM'e sığdığını ve nicemlemeden sonra daha azına ihtiyaç duyduğunu söyler; 24B bir model olan Mistral Small 3.1 kartı ise nicemlendikten sonra tek bir RTX 4090'a ya da 32 GB'lık bir MacBook'a sığdığını söyler. 43 GB'lık bir 70B için 64 GB'lık bir Mac ya da iki adet 24 GB'lık kart gerekir; bunun ötesinde sunucu kiralarsın.

8B mi 70B mi daha iyi? 2026 tarihli bir 8B, 2024 tarihli bir 70B'yi geçer

Yaş boyutu yener: IBM'in 25 Ağustos 2026'da yayımlanan Granite 4.2 8B modeli Intelligence Index'te 11 alırken, Meta'nın Aralık 2024 tarihli Llama 3.3 70B modeli 8, Nisan 2024 tarihli Llama 3 70B modeli ise 5 alır (bir Artificial Analysis tahmini). 70B'nin yaklaşık dokuz kat fazla ağırlığı var. Sayı ağın ne kadar büyük olduğunu kaydeder, eğitildiği veri ya da tarif hakkında hiçbir şey söylemez; iki yıllık ilerleme de tam olarak oraya gitti. Aşağıdaki puanlar 26 Eylül 2026 itibarıyladır; parametre sayıları üreticilerin kendi verdikleridir.

Aynı ailede ve aynı nesilde boyut hâlâ işe yarar: Granite 4.2 3B, 8B ve 30B sırasıyla 9, 11 ve 15 alır. Nesiller arasında ise işe yaramaz; uzmanlar karışımı satırlarında toplam ve aktif sayı 18 ile 33 kat birbirinden ayrılır, yani manşetteki sayı her token için işi yapan sayı bile değildir.

Aynı ağırlıklar birbirinden 14 puan uzağa düşebilir. Qwen3.8 27B varsayılan modunda 20, akıl yürütme çabası xhigh'a çıkarıldığında 34 alır; çünkü indeks modelin yanıt vermeden önce ne kadar düşündüğünü de ölçer. Akıl yürütme modeli nedir yazısı bu düğmeyi anlatır.

GPT, Claude ve Gemini amiral gemileri neden parametre sayısı yayımlamıyor

Kapalı amiral gemileri boyut yayımlamaz, çünkü sayı rekabetle ilgili bir ayrıntıdır ve indiremeyeceğin ağırlıklar için sana kullanabileceğin hiçbir şey söylemez. OpenAI'ın bir öncü GPT için yayımladığı son sayı, onu tanıtan 2020 makalesindeki 175 milyarlık GPT-3'tü; yayımladığı boyutlar açık ağırlıklarına aittir ve Ağustos 2025 tarihli gpt-oss model kartı, gpt-oss-120b için toplam 116.8 milyar ve aktif 5.1 milyar parametre verir. Google yalnızca cihaz üzerindeki Gemini Nano için boyut verdi: Gemini 1.0 raporunda 1.8 milyar ve 3.25 milyar parametre; Pro ya da Ultra için hiçbir şey vermedi. Eylül 2026 itibarıyla GPT-6 Astra ve Claude Fable 5.1, yanlarında boyut yazmadan Artificial Analysis sıralamasında 53 alır; bu, 2.8 trilyonla en büyük açık model olan Kimi K3'ün dokuz puan üstüdür.

Donanım alırken sayıya, yanıt alırken puana bak

Bir modeli kendin çalıştırıyorsan parametre sayısı okunacak ilk sayıdır, çünkü ağırlıkların yüklenip yüklenmeyeceğini belirler; barındırılan bir sohbet ürünü kullanıyorsan neredeyse okunacak son sayıdır. Barındıran sağlayıcı donanımı zaten satın almıştır, bu yüzden ödediğin şey boyutu değil token fiyatını izler.

Özel ya da çevrimdışı kullanım için barındırılan bir ürün yanlış araçtır: 4.9 GB'lık Llama 3.1 8B'yi Ollama ile ya da aynı ağırlıkları LM Studio ile indir, disk alanı dışında hiçbir maliyeti yoktur. Açık kaynak LLM rehberi lisansları anlatır.