AI 토큰이란 무엇인가?

토큰은 단어가 아니라 단어의 조각입니다

모델은 글자를 읽지도, 단어를 읽지도 않습니다. 메시지가 모델에 도달하기 전에 토크나이저가 이를 수만 개의 조각으로 이루어진 고정된 어휘 목록에서 잘라냅니다. 흔한 단어는 토큰 하나입니다. 드문 단어는 두세 개입니다. "The"는 토큰 하나이고, "tokenization"은 보통 두세 개이며, 긴 URL은 수십 개가 될 수 있습니다.

OpenAI가 영어 텍스트에 대해 공개한 어림값은 이렇습니다. 토큰 하나는 약 4글자, 또는 단어의 약 4분의 3입니다. 그래서 100토큰은 약 75단어이고, 1,000토큰은 페이지 한 장 반 분량입니다.

이 숫자를 흔들리게 만드는 요인이 두 가지 있습니다. 코드는 기호와 들여쓰기 때문에 더 밀도가 높아, 3글자당 토큰 1개에 가깝게 나옵니다. 그리고 토크나이저 학습 데이터에서 비중이 적은 언어는 비용이 더 듭니다. 태국어, 힌디어, 아랍어는 같은 의미라도 영어판보다 토큰이 2배에서 3배 더 들 수 있으며, 토큰당 요금을 내며 그런 언어로 글을 쓴다면 이는 중요한 문제입니다.

직접 확인해볼 수 있습니다. 토큰 비용 계산기에 아무 텍스트나 붙여넣으면 각 모델에서의 토큰 수와 가격이 표시됩니다.

입력 토큰과 출력 토큰은 가격이 다릅니다

모든 메시지는 두 부분으로 나뉩니다. 입력 토큰은 모델이 읽는 모든 것, 즉 질문, 시스템 지침, 지금까지의 대화, 첨부한 파일을 포함합니다. 출력 토큰은 모델이 다시 써 보내는 부분입니다.

제공업체는 이 둘을 서로 다른 요율로 청구하며, 그 격차는 결코 작지 않습니다. 아래 표는 AI 모델 비용 지수에서 가져온 100만 토큰당 정가로, 2026-08-20에 OpenRouter에서 가져온 가격입니다.

출력이 더 비싼 이유는 모델이 작동하는 방식 때문입니다. 입력을 읽는 것은 모든 토큰에 대해 한 번의 병렬 연산으로 끝납니다. 출력을 쓰는 것은 토큰 하나씩 순차적으로 이루어지며, 새 토큰마다 모델 전체를 다시 한 번 통과해야 합니다. 500토큰짜리 답변은 500번의 순차 연산입니다.

실제 메시지 하나의 비용을 계산해보면

전형적인 대화를 예로 들어보겠습니다. 300단어 질문에 문맥 한 문단을 더하고, 400단어로 답변받는 경우입니다. 이는 대략 입력 토큰 400개, 출력 토큰 530개에 해당합니다.

• GPT-5.6 Luna에서는: 400 × 100만 토큰당 $0.20, 그리고 530 × 100만 토큰당 $1.20을 더하면 $0.00008 더하기 $0.00064, 약 $0.0007입니다. 1센트의 7백분의 1입니다.
• Claude Sonnet 5에서는: 400 × $2, 530 × $10을 100만 토큰당으로 더하면 $0.0008 더하기 $0.0053, 약 $0.006입니다. 반 센트를 조금 넘습니다.
• GPT-5.5에서는: 400 × $5, 530 × $30을 100만 토큰당으로 더하면 $0.002 더하기 $0.0159, 약 $0.018입니다. 거의 2센트에 가깝습니다.

모든 항목에서 출력 부분이 청구액의 80퍼센트에서 90퍼센트를 차지한다는 점에 주목하세요. 모델뿐 아니라 메시지의 형태가 비용을 결정합니다. 한 줄짜리 질문으로 2,000단어짜리 에세이를 요청하는 것이 가장 비싼 패턴이고, 같은 모델에서 긴 문서에 대해 한 줄짜리 질문을 하는 것이 가장 저렴한 패턴입니다.

시야를 넓혀 전체 카탈로그의 격차를 보면 진짜 이야기가 보입니다. AI 모델 비용 지수에 가격이 매겨진 모든 모델을 표준 답변 하나의 비용 기준으로 아래 선 위에 배치했습니다. 가장 저렴한 Ling-3.0-flash는 $0.000053이고, 가장 비싼 빠른 모드의 Claude Opus 4.7은 $0.105로, 같은 1,500토큰인데도 약 2,000배 차이가 납니다.

또 다른 배수 요인은 대화 이력입니다. 채팅에서는 모델이 매 턴마다 전체 대화를 다시 읽으므로, 입력 토큰 수는 메시지마다 늘어납니다. 40턴짜리 대화는 첫 메시지를 40번 전송하는 셈입니다. 이것이 긴 스레드가 느려지는 이유이며, 결국 컨텍스트 윈도우란 무엇인가라는 한계에 부딪히게 되는 이유입니다.

구독제가 계량기를 숨길 뿐 없애지는 못하는 이유

일반 사용자용 요금제는 매달 정액 요금을 부과하지만, 그 요금 아래에서는 여전히 모든 제공업체가 토큰을 세고 있습니다. 그 셈은 메시지 상한, "한도에 도달했습니다"라는 벽, 예산이 바닥나면 조용히 더 작은 모델로 전환하는 방식으로 드러납니다.

Whizi는 반대 방식으로 계량합니다. 각 모델은 메시지당 고정된 크레딧 가격을 가집니다. 하우스 모델은 1크레딧, Claude Sonnet 5는 10크레딧, Claude Opus 5와 GPT-5.5는 20크레딧, 사다리의 최상단은 100크레딧입니다. 이 숫자는 메시지나 답변의 길이와 무관합니다. 이 사다리는 실제 토큰 턴 하나, 즉 하우스 모델에서 입력 3,000토큰과 출력 800토큰을 기준으로 삼으며, 이는 제공업체 지출 기준 약 $0.00156에 해당하고 이것이 크레딧 1개를 정의합니다. Whizi 크레딧 작동 방식에 전체 표가 있습니다.

이 방식은 의도적인 절충입니다. 토큰당 계량은 정확하지만 예측하기 어렵고, 메시지당 크레딧은 긴 메시지에는 약간 후하고 짧은 메시지에는 약간 박하지만, 전송 버튼을 누르기 전에 항상 가격을 알 수 있습니다.

토큰은 용량의 한계이기도 합니다

토큰이 중요한 두 번째 이유는 용량입니다. 모든 모델은 토큰 단위로 측정되는 컨텍스트 윈도우, 즉 입력과 출력을 합쳐 한 번에 고려할 수 있는 최대치를 가집니다. Claude Haiku 4.5는 200,000토큰을 담습니다. GPT-5.6 Terra, Claude Sonnet 5, Gemini 3.7 Flash는 약 100만 토큰을 담습니다. 1,000토큰당 750단어로 계산하면, 100만 토큰은 약 75만 단어, 약 1,500페이지에 해당합니다.

이 윈도우는 공짜가 아닙니다. 채우려면 매 턴마다 입력 토큰이 들어가므로, 30만 토큰짜리 문서에 대해 질문 10개를 하면 입력 토큰 300만 개가 되고, 이는 Claude Sonnet 5 정가 기준 $6입니다. 앱이 문서를 검색해 관련 있는 페이지만 보내는 검색(retrieval)은 바로 이 청구액을 피하기 위해 존재합니다. RAG란 무엇인가가 그 메커니즘을 설명하고, 컨텍스트 윈도우 비교에 모든 모델의 한도가 표 하나로 정리되어 있습니다. 파일 전체가 아니라 질문에 필요한 페이지만 보내세요.