AI에서 8B 뜻은? 파라미터 80억 개, 구동에 5GB

8B는 가중치의 개수이고, 품질보다 메모리를 훨씬 잘 예측합니다

8B 모델 세 개는 Artificial Analysis Intelligence Index(공개된 추론, 코딩, 지식 테스트를 합친 종합 지표, 2026년 9월 26일 확인)에서 6점, 7점, 11점을 받았습니다. 반면 Kimi K3는 350배인 2.8조 개의 파라미터를 저장하고도 44점입니다. 차트는 두 수치가 모두 공개된 오픈 모델 13개를 보여 줍니다. 파라미터 수는 각 제작사의 공식 모델 카드에 나온 총합이고, 점수는 기본 모드 기준이며 최대 추론 노력으로 측정한 세 개만 max effort로 표시했습니다.

점선은 크기별 최고 점수를 이은 경계선이고, 파라미터가 350배 늘어나는 동안 33점 올라갑니다. 그 아래에서는 같은 크기 안의 편차가 크기 사이의 편차만큼 큽니다. Llama 4 Maverick은 파라미터 4,000억 개를 저장하는데도 10점으로, IBM의 8B보다 1점 낮습니다.

AI에서 파라미터란? 모델이 예측에 쓰는 학습된 숫자

파라미터는 학습된 숫자 하나, 즉 학습으로 조정되는 신경망의 가중치입니다. 모델은 토큰 하나를 예측할 때마다 이 값을 참조합니다. 8B는 그 숫자가 80억 개라는 뜻이고, B는 GB의 G가 giga인 것처럼 billion(십억)입니다. Meta의 모델 카드는 Llama 3.1을 "a collection of pretrained and instruction tuned generative models in 8B, 70B and 405B sizes"라고 설명합니다. 학습 데이터나 컨텍스트 윈도우는 세지 않습니다. 가중치가 어떻게 정해지는지는 LLM이란 무엇인가에서 다룹니다.

모델 카드에는 글자가 두 개 더 나옵니다. M은 million(백만)으로 작은 임베딩 모델과 비전 모델이 여기 속하고, T는 trillion(조)입니다. Kimi K3의 카드에는 2.8T라고 적혀 있습니다. Qwen3.6 35B A3B나 DeepSeek의 "284B parameters, 13B activated" 같은 이름은 전문가 혼합(MoE) 모델이라는 표시입니다. 모든 파라미터를 저장하지만 토큰 하나에는 일부만 씁니다(Qwen의 경우 35 중 3십억 개). 활성 파라미터가 속도를 정하고, 총 파라미터가 메모리를 정하므로 모델이 아예 올라가는지도 총 파라미터가 결정합니다.

8B 모델에 메모리가 얼마나 필요할까? 16비트 16GB, 양자화하면 약 5GB

8B 모델은 16비트에서 약 16GB, 대부분이 쓰는 4비트 다운로드에서는 약 5GB의 메모리가 필요하고, 여기에 대화용 작업 메모리가 더해집니다. 계산은 파라미터 수 곱하기 가중치당 바이트 수입니다. 제작사가 배포하는 16비트 형식은 2바이트(Hugging Face의 메모리 가이드도 fp16 가중치를 파라미터당 2바이트로 셉니다), 8비트는 1바이트, 4비트는 0.5바이트입니다. 아래는 Ollama가 세 가지 크기를 모두 제공하는 Llama 3.1 계열로, 2026년 9월 26일에 확인했습니다.

마지막 열은 직접 계산한 값으로, 다운로드 크기(비트)를 파라미터 수로 나눈 것입니다. 4비트 어림법칙은 실제 다운로드 크기를 약 20퍼센트 낮게 잡는다는 걸 보여 줍니다. Llama 3.1은 모든 크기가 가중치당 4가 아니라 4.8에서 4.9비트입니다. 그래서 8B는 5GB, 70B는 43GB(Ollama의 llama3.3 페이지도 Llama 3.3 70B를 같은 43GB로 표기합니다), 405B는 243GB로 잡아야 합니다.

그래서 8B가 모두가 이야기하는 크기입니다. 4.9GB는 RAM 16GB 노트북이나 8GB 그래픽 카드에 들어갑니다. Mistral의 Ministral 3 8B 카드는 FP8에서 12GB VRAM에 들어가고 양자화하면 더 적게 든다고 하며, 24B 모델인 Mistral Small 3.1 카드는 양자화하면 RTX 4090 한 장 또는 32GB MacBook에서 돌아간다고 합니다. 43GB인 70B는 64GB Mac이나 24GB 카드 두 장이 필요하고, 그 이상은 서버를 빌려야 합니다.

8B와 70B 중 어느 쪽이 나을까? 2026년 8B가 2024년 70B를 이깁니다

크기보다 나이가 중요합니다. 2026년 8월 25일에 출시된 IBM의 Granite 4.2 8B는 Intelligence Index 11점이고, 2024년 12월의 Meta Llama 3.3 70B는 8점, 2024년 4월의 Llama 3 70B는 5점(Artificial Analysis 추정)입니다. 70B는 가중치가 거의 아홉 배나 많습니다. 파라미터 수는 네트워크가 얼마나 큰지만 알려 줄 뿐, 어떤 데이터와 레시피로 학습했는지는 말해 주지 않으며 2년간의 발전은 바로 거기서 나왔습니다. 아래 점수는 2026년 9월 26일 기준이고 파라미터 수는 각 제작사 공식 값입니다.

같은 계열, 같은 세대 안에서는 크기가 여전히 값을 합니다. Granite 4.2의 3B, 8B, 30B는 각각 9점, 11점, 15점입니다. 세대를 넘어가면 그렇지 않고, 전문가 혼합 모델 행에서는 총 파라미터와 활성 파라미터가 18배에서 33배까지 벌어지므로 대표 숫자가 토큰마다 실제로 일하는 숫자도 아닙니다.

같은 가중치가 14점 차이로 갈리기도 합니다. Qwen3.8 27B는 기본 모드에서 20점, 추론 노력을 xhigh로 올리면 34점입니다. 이 지표가 답하기 전에 모델이 얼마나 오래 생각하는지도 재기 때문입니다. 그 다이얼은 추론 모델이란 무엇인가에서 다룹니다.

GPT, Claude, Gemini 플래그십이 파라미터 수를 공개하지 않는 이유

폐쇄형 플래그십이 크기를 공개하지 않는 이유는 그 숫자가 경쟁 정보이고, 내려받을 수 없는 가중치라면 알아도 쓸 곳이 없기 때문입니다. OpenAI가 마지막으로 공개한 최상위 GPT의 파라미터 수는 2020년 논문에서 소개한 GPT-3의 1,750억 개입니다. 지금 공개하는 크기는 오픈 가중치 모델뿐이고, 2025년 8월 gpt-oss 모델 카드는 gpt-oss-120b를 총 116.8B, 활성 5.1B로 적었습니다. Google은 온디바이스 Gemini Nano의 크기만 공개했고(Gemini 1.0 보고서에서 18억 개와 32.5억 개), Pro와 Ultra는 공개하지 않았습니다. 2026년 9월 기준 GPT-6 Astra와 Claude Fable 5.1은 Artificial Analysis 리더보드에서 둘 다 53점이지만 크기는 적혀 있지 않으며, 가장 큰 오픈 모델인 2.8조 개 Kimi K3보다 9점 높습니다.

하드웨어를 살 때는 파라미터 수를, 답을 살 때는 점수를 보세요

직접 모델을 돌린다면 파라미터 수가 가장 먼저 볼 숫자입니다. 가중치가 올라가는지를 정하기 때문입니다. 반대로 호스팅 채팅 서비스를 쓴다면 거의 마지막에 볼 숫자입니다. 호스팅 업체가 이미 하드웨어를 샀으니 내는 돈은 크기가 아니라 토큰 가격을 따라갑니다.

비공개나 오프라인 용도라면 호스팅 서비스는 맞지 않습니다. Ollama로 4.9GB짜리 Llama 3.1 8B를 내려받거나, LM Studio로 같은 가중치를 받으면 디스크 공간 외에는 비용이 없습니다. 라이선스는 오픈소스 LLM 가이드에서 다룹니다.