Что значит 8B в ИИ: параметры нейросети, 8 млрд и 5 ГБ памяти

8B это число весов, и оно предсказывает память намного лучше, чем качество

Три модели 8B набирают 6, 7 и 11 в Artificial Analysis Intelligence Index (сводный балл по публичным тестам на рассуждение, программирование и знания, данные на 26 сентября 2026 года), а Kimi K3 хранит 2.8 триллиона параметров, в 350 раз больше, чтобы набрать 44. На графике 13 открытых моделей, у которых опубликованы оба числа: каждый размер это общее число из карточки модели от самого разработчика, а каждый балл получен в режиме по умолчанию, кроме трёх с пометкой «макс. усилие», оценённых при максимальном усилии на рассуждение.

Пунктирная линия это граница лучших результатов: лучший балл для каждого размера. Она поднимается на 33 пункта при росте числа параметров в 350 раз. Под ней разброс при одном размере так же велик, как разброс между размерами. Llama 4 Maverick хранит 400 миллиардов параметров и набирает 10, на один пункт меньше, чем 8B от IBM.

Что такое параметры в ИИ? Выученные числа, по которым модель предсказывает

Параметр это одно выученное число, вес в сети, который настраивается при обучении и к которому модель обращается на каждом предсказываемом токене. 8B считает 8 миллиардов таких чисел, а B означает billion (миллиард), как G в GB означает гига. В карточке модели Meta Llama 3.1 названа так: "a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes". Больше ничего не считается: ни обучающие данные, ни контекстное окно. О том, как задаются веса, рассказывает материал Что такое LLM.

В карточках моделей встречаются ещё две буквы. M это миллион, так обозначают небольшие модели эмбеддингов и зрения, а T это триллион: в карточке Kimi K3 указано 2.8T. Название вроде Qwen3.6 35B A3B или «284B parameters, 13B activated» у DeepSeek означает модель со смесью экспертов: она хранит все параметры, но на каждый токен использует лишь часть (в случае Qwen 3 миллиарда из 35). Активные параметры задают скорость. Общие параметры задают память, а значит, решают, загрузится ли модель вообще.

Сколько памяти нужно модели 8B? 16 ГБ при 16 бит, около 5 ГБ в квантованном виде

Модели 8B нужно около 16 ГБ памяти при 16 бит и около 5 ГБ в загрузке на 4 бит, которую запускает большинство, плюс рабочая память для диалога. Расчёт прост: параметры умножить на байты на вес: 2 байта в 16-битных форматах, которые публикуют разработчики (в руководстве Hugging Face по памяти копия весов fp16 считается как 2 байта на параметр), 1 байт при 8 бит, полбайта при 4 бит. Вот семейство Llama 3.1, которое Ollama выпускает во всех трёх размерах, данные на 26 сентября 2026 года.

Последний столбец посчитан нами: размер загрузки в битах, делённый на число параметров. Он показывает, что правило «4 бита» занижает реальную загрузку примерно на 20 процентов: каждый размер Llama 3.1 даёт 4.8 или 4.9 бита на вес, а не 4. Поэтому закладывайте 5 ГБ на 8B, 43 ГБ на 70B (на странице llama3.3 в Ollama Llama 3.3 70B указана с теми же 43 ГБ) и 243 ГБ на 405B.

Вот почему 8B обсуждают чаще всего: 4.9 ГБ помещаются в ноутбук с 16 ГБ оперативной памяти или в видеокарту на 8 ГБ. В карточке Ministral 3 8B от Mistral сказано, что модель умещается в 12 ГБ видеопамяти в FP8 и в меньший объём после квантования; в карточке Mistral Small 3.1, модели на 24B, указаны одна RTX 4090 или MacBook на 32 ГБ после квантования. Для 70B на 43 ГБ нужен Mac на 64 ГБ или две карты по 24 ГБ, а выше уже аренда сервера.

Что лучше, 8B или 70B? 8B 2026 года обходит 70B 2024 года

Возраст важнее размера: Granite 4.2 8B от IBM, вышедшая 25 августа 2026 года, набирает 11 в Intelligence Index, а Llama 3.3 70B от Meta из декабря 2024 года набирает 8, и Llama 3 70B из апреля 2024 года набирает 5 (оценка Artificial Analysis). У 70B почти в девять раз больше весов. Число показывает, насколько велика сеть, и ничего не говорит о данных и рецепте обучения, а именно туда ушли два года прогресса. Баллы ниже на 26 сентября 2026 года; размеры взяты у самих разработчиков.

Внутри одного семейства и одного поколения размер всё ещё окупается: Granite 4.2 на 3B, 8B и 30B набирает 9, 11 и 15. Между поколениями это перестаёт работать, а в строках со смесью экспертов общее и активное число расходятся в 18 или 33 раза, так что даже заголовочное число не то, которое работает на каждом токене.

Одни и те же веса могут дать разницу в 14 пунктов. Qwen3.8 27B набирает 20 в режиме по умолчанию и 34 при усилии на рассуждение xhigh, потому что индекс измеряет и то, как долго модель думает перед ответом. Об этой регулировке рассказывает материал Что такое модель рассуждения.

Почему флагманы GPT, Claude и Gemini не публикуют число параметров

Закрытые флагманы не публикуют размер, потому что число это конкурентная деталь, а для весов, которые нельзя скачать, оно не даёт ничего полезного. Последний опубликованный размер флагманского GPT у OpenAI это GPT-3 со 175 миллиардами в статье 2020 года, где она была представлена; размеры публикуются только для открытых весов, и в карточке gpt-oss от августа 2025 года у gpt-oss-120b указано 116.8 миллиарда всего и 5.1 миллиарда активных параметров. Google называла размеры только для Gemini Nano на устройстве: 1.8 и 3.25 миллиарда параметров в отчёте о Gemini 1.0, и ничего для Pro и Ultra. На сентябрь 2026 года GPT-6 Astra и Claude Fable 5.1 набирают по 53 в рейтинге Artificial Analysis без указания размера, на девять пунктов выше Kimi K3, крупнейшей открытой модели на 2.8 триллиона.

Число смотрят при покупке железа, а балл при покупке ответов

Число параметров это первое, что нужно смотреть, если вы запускаете модель сами, потому что оно решает, загрузятся ли веса, и почти последнее, если вы пользуетесь облачным чатом. Облачный провайдер уже купил оборудование, поэтому цена зависит от стоимости токена, а не от размера.

Для частного или офлайн-использования облачный продукт не подходит: скачайте Llama 3.1 8B на 4.9 ГБ через Ollama или те же веса через LM Studio, и это ничего не стоит, кроме места на диске. О лицензиях рассказывает руководство по open source LLM.