コンテキストウィンドウとは？AIの挙動の多くを説明する上限

やさしい説明

コンテキストウィンドウとは、モデルが一度に見渡せるテキストの総量です。いまの会話についてモデルが知っていることは、すべてこの中に収まらなければなりません。あなたの指示、双方が送ったすべてのメッセージ、アップロードしたすべてのファイル、そしてこれから書く回答までです。

わかりやすいイメージがあります。モデルは会話をまったく記憶していません。あなたがメッセージを送るたびに、それまでの会話全体が改めて手渡され、モデルはそれを全部読んでから次の返事を書きます。コンテキストウィンドウは、その記録を広げる机の大きさです。机がいっぱいになれば、何かを下ろすしかありません。

だからAIは20回のやり取りまでは鋭く見えるのに、そこから自己矛盾を始めたり、最初に設定した制約を忘れたり、すでに渡したファイルをもう一度求めたりするのです。混乱したわけではありません。会話の序盤が机から滑り落ちただけです。

混乱のもとになるので、最初にはっきりさせておきたい区別があります。コンテキストウィンドウはメモリーとは別物です。 ChatGPTやClaudeのような製品には、会話をまたいであなたに関する事実を保存し、新しい会話にそっと差し込むメモリー機能が別にあります。あれはモデルの上に作られた製品の機能です。コンテキストウィンドウはモデル自体の動かせない性質であり、どんなメモリー機能もそれを広げてはくれません。

トークンと、その見積もり方

コンテキストウィンドウは単語数ではなくトークン数で測ります。モデルは単語を読んでいないからです。読んでいるのは塊で、よく使う語はたいてい1トークン、長い語や珍しい語は複数に分かれ、記号やスペースも数に入ります。

覚えておく価値のあるおおまかな換算はこうです。

• 1トークンは英語で約4文字、単語にすると4分の3語ほどです。
• 1,000トークンでおよそ750語、ふつうの文章で1ページ半くらいです。
• コードはもっと詰まっています。 記号、字下げ、見慣れない識別子のせいで、3文字で1トークンに近づくと考えてください。
• 日本語などは効率が落ちます。 トークナイザーで扱いの薄い言語は、同じ内容でも2倍から3倍のトークンを使うことがあります。トークン単位で課金される場合は知っておく価値があります。

これで、宣伝資料で見かける数字を実感として捉えられます。

コンテキストウィンドウ	だいたいの分量
8,000トークン	長めの記事1本
32,000トークン	短い論文とメモ
128,000トークン	300ページの本1冊
200,000トークン	濃い技術マニュアル、または中規模のコードベース
1,000,000トークン	本数冊、または1年分の議事録

この表が隠している大事な点があります。上限がかかるのは1通ごとではなく、会話全体です。128,000トークンの枠は、毎回128,000トークン送れるという意味ではありません。モデル自身の返答も含めた累計が、その数字を超えてはいけないという意味です。

実際に枠を埋めているもの

枠の埋まる速さに驚く人は多いです。中身の大半が目に見えないからです。ふつうのチャットでは、モデルは毎ターン、以下のすべてを読んでいます。

1. システムプロンプト。 あなたが入力する前に製品側が送っている指示です。振る舞い方、使えるツール、今日の日付、安全上のルールなど。数千トークンに達することも多く、あなたには見えません。
2. カスタム指示やメモリー。 製品があなたについて保存し、自動で差し込んでいる内容です。
3. これまでのすべてのメッセージ、あなたのものもモデルのものも、全文です。モデルの長い回答も数に入り、たいていいちばん多くを占めます。
4. アップロードしたすべてのファイル、あるいはそこから抽出された部分です。40ページのPDFで、おおよそ20,000から30,000トークンです。
5. ツールや検索の結果。 5ページ分を引いてくるウェブ検索は、それまでの会話全体より大きくなることがあります。
6. いま生成中の回答。 出力も入力と同じ予算を分け合います。

短いと感じていた会話がもう上限近くにいるのは、これが理由です。あなたが送ったのは短いメッセージ8通でも、モデルは長い回答を8通書き、あなたは書類を2つ添付し、検索が3回走っている。目に見えているのは全体のせいぜい1割です。

会話がおかしくなったときの対処が「新しいチャットを始める」であることが多いのも、これで説明できます。モデルの機嫌をリセットしているのではありません。机を片づけているのです。

宣伝上の大きさと、実用的な大きさ

ここがいちばん重要なのに、いちばん語られない部分です。モデルの品質は上限直前まで平らなまま続いて崖から落ちるのではありません。少しずつ劣化し、しかも上限のかなり手前から劣化が始まります。

最もよく記録されているのは、いわゆる中盤で見失う現象です。長い文書の冒頭に特定の事実を置けばモデルは見つけます。末尾に置いても見つけます。ところが200ページの真ん中に埋めると、取り出せる精度が目に見えて落ちます。注意は長い入力に均等に配られておらず、両端に多く向かうのです。

長い入力のあちこちに散らばった複数の事実を組み合わせる必要があるタスクでは、さらに難しくなります。干し草の山から1本の針を探すのは、すでに解決した問題です。針を4本見つけてそれらの関係を推論するのは、そうではありません。そして大きなコンテキストウィンドウは、まさにそのために使われがちです。

ですから宣伝の数字は最大収容量であって、快適な作業範囲ではないと考えてください。実務から導いた目安はこうです。宣伝されている枠のおよそ半分までは安定して動き、それを超えた部分は信じる前に確かめるべきです。 300ページの契約書に解約条項はありませんとモデルが言ったら、必ず確認しましょう。特にその条項が真ん中にありそうなときはなおさらです。

比較の話に落とすと、100万トークンの枠を持つモデルが、20万トークンのモデルより長文の扱いで自動的に優れているわけではありません。優れているのは受け取れる量です。その全体にわたってうまく推論できるかは別の問題であり、確かめる方法は、答えをすでに知っている文書で試すことだけです。

枠を使い切ったときに起きること

あふれたときの扱いは製品ごとに違い、自分がどれを使っているかを知ると、不可解な挙動の多くが腑に落ちます。

挙動	見える現象	よくある場所
エラーで拒否	長さについてのメッセージが出て弾かれる	APIを直接使う場合の多く
黙って切り捨て	古いメッセージが通知なく落とされる	多くのチャット画面
逐次の要約	古いメッセージが要約に圧縮される	チャット製品で増加中
検索して取り出す	毎回、書類の関係する部分だけが取り出される	書類や社内知識のツール

本当に困るのは黙って切り捨てる方式です。何も知らせてくれないからです。症状は、最初に決めたルールを急に無視する、1時間前に直したはずの口調に戻る、すでに答えた質問をもう一度してくる、といった形で現れます。モデルが壊れたわけではありません。その指示が、もう机の上にないだけです。

逐次の要約はましですが、情報は失われます。要約は要旨を残して具体を削るので、「シナジーという言葉は絶対に使わない」という制約が「ユーザーには文体の好みがある」として生き残ります。それでは何の役にも立ちません。

実際に効く具体的な工夫

手間に対する効果の大きい順に並べています。

話題が変わったら新しいチャットを始める。 単体でいちばん価値の高い習慣です。長い会話は、もう関係のない脱線まで含めて、それ以前のすべてのコストを背負います。長い会話は詳しくなるのではなく、高くつき、薄まります。

質問は長い資料の前ではなく、後ろに置く。 文書を貼ってから質問すると、質問が回答の生成される位置に近くなり、長い入力での精度が測定できるほど上がります。まず貼る、それから聞く。

大事な制約は言い直す。 15往復を超えるような会話では、効いてほしい場面のメッセージで大事なルールを言い直しましょう。「念のため、箇条書きなし、400字以内、です・ます調で」といった具合です。1行の手間で、切り捨てを生き延びます。

本1冊ではなく、必要なページを渡す。 補償条項を確認してほしいなら、その条項と前後を渡しましょう。量より精度です。速く、安く、しかも正確になります。

意識して要約し、やり直す。 作業が長くなってきたら、引き継ぎを構造化して出してもらいましょう。現状、決まったこと、未解決の問い、制約です。それを新しいチャットに貼ります。中身は残り、雑音は落ち、モデルがすぐ鋭くなるのがわかります。

収まらないものは検索して取り出す方式にする。 資料が本当にどの枠より大きいなら、答えはより大きな枠ではなく、質問ごとに関係する断片を取り出すことです。書類ツールが内部でやっているのはそれです。

エラーだけでなく、劣化に気づく。 回答がぼやける、断定を避け始める、書式の指示を無視し出したら、たぶん枠の奥深くにいます。モデルの質が落ちたと決めつける前に、新しく始めましょう。

実際にどれくらいの枠が必要か

いちばん大きな数字を買いに行くのではなく、仕事に枠を合わせましょう。

あなたの仕事	必要なもの	理由
メール、下書き、ちょっとした質問	最近のモデルなら何でも	上限に近づくことはまずありません
長い文書の編集	100,000以上	文書に加えて、それについての会話が乗ります
契約書や規程のレビュー	200,000以上、ただし要検証	文書とその推論、そして前述の注意点があります
コードベース全体を横断する推論	使える中で最大	コードはトークンが詰まり、ファイル横断には広さが要ります
数か月分の議事録の分析	最大、または検索して取り出す方式	力任せより取り出し方式が合うことが多いです
APIで製品を作る	思うより小さめ、加えてキャッシュ	長いプロンプトはコストと遅延の主因です

多くの人にとっての正直な答えは、コンテキストウィンドウは契約を決める要因ではない、というものです。文章の質、エコシステム、価格の方が効きます。決め手になるのはただ1つの状況、ふつうの枠に収まらない量の資料を日常的に投げ込む仕事の場合です。そのときの差は僅差ではなく、できるかできないかの差になります。

自分で確かめたいなら、同じ長い文書を2つか3つのモデルに通し、すでに答えを知っている点で照合するのが実際的です。Whiziのようなワークスペースならそれが簡単です。GPT、Claude、Gemini、Grok、DeepSeekが1つの契約の後ろに並び、Geminiの非常に大きな枠とClaudeの丁寧なまとめが1クリックの距離にあります。モデルを並べて比べるをご覧いただくか、より大きな判断についてはAIモデルの選び方をお読みください。