ChatGPTとの長い会話で、「さっき話した内容を忘れていませんか？」と感じたことはありませんか？
これは、AIの「コンテキストウィンドウ」という制限に関係しています。
この記事では、AIの「記憶力」を決めるコンテキストウィンドウについて、わかりやすく解説します。
コンテキストウィンドウとは？
一言で言うと
コンテキストウィンドウとは、AIが一度に「覚えていられる」テキストの量（トークン数）です。
本を読むときの「ワーキングメモリ」のようなもの。ページをめくると前のページの内容は見えなくなりますが、AIも同じで、コンテキストウィンドウを超えた古い情報は「忘れて」しまいます。
具体的にどれくらいの量なんですか？
モデルによって違いますが、例えばGPT-4oは128,000トークン（約25万文字）、Claude 3.5 Sonnetは200,000トークン（約40万文字）です。Gemini 1.5 Proは100万トークン（約200万文字）と、本数冊分の情報を一度に処理できます。
入力＋出力の合計
重要なポイントは、コンテキストウィンドウには「あなたが送った文章」と「AIが返した文章」の両方が含まれることです。
コンテキストウィンドウ = 入力トークン + 出力トークン
つまり、128,000トークンのモデルで100,000トークンの文書を送ると、AIの回答は最大28,000トークンに制限されます。
主要AIのコンテキストウィンドウ比較
2024年末時点での主要モデルの比較です：
| モデル | コンテキストウィンドウ | 日本語換算（目安） |
|---|---|---|
| GPT-3.5 Turbo | 16,000トークン | 約3万文字 |
| GPT-4o | 128,000トークン | 約25万文字 |
| Claude 3.5 Sonnet | 200,000トークン | 約40万文字 |
| Gemini 1.5 Pro | 1,000,000トークン | 約200万文字 |
| Llama 4 | 10,000,000トークン | 約2,000万文字 |
2018年頃のAIは512トークン程度でした。わずか6年で数千倍に拡大しています。
なぜコンテキストウィンドウが重要なのか？
1. 長い会話の継続
コンテキストウィンドウが小さいと、長い会話で「前に話したこと」を忘れてしまいます。
- 4,000トークン：数往復の会話で限界
- 128,000トークン：数十往復の長い会話も可能
- 1,000,000トークン：本1冊分の内容を踏まえた会話も可能
2. 長文書の処理
契約書や研究論文など、長い文書を一度に分析するには大きなコンテキストウィンドウが必要です。
| 文書タイプ | 目安トークン数 |
|---|---|
| ブログ記事 | 1,000-3,000 |
| 研究論文 | 5,000-15,000 |
| 契約書 | 10,000-50,000 |
| 書籍1冊 | 100,000-300,000 |
3. コードの理解
プログラムのコードベース全体を理解するには、大きなコンテキストウィンドウが必要です。複数ファイルにまたがるバグの発見や、大規模なリファクタリングに活用できます。
じゃあ、コンテキストウィンドウが大きいほど良いってことですか？
一概にそうとは言えません。実は、大きすぎると問題もあるんです。
大きなコンテキストウィンドウの落とし穴
1. コストが高くなる
トークン数に応じて料金がかかるため、大きなコンテキストを使うほどコストが増加します。
2. 処理速度が遅くなる
コンテキストが長くなるほど、AIの応答生成に時間がかかります。
テキストの長さが2倍になると、必要な計算量は4倍になります（二次関数的スケーリング）。これがTransformerアーキテクチャの特性です。
3. 精度が下がることも
意外かもしれませんが、コンテキストが長すぎると、精度が下がるという研究結果があります。
これを「コンテキスト・ロット（Context Rot）」と呼びます。情報が多すぎて、重要な部分に集中できなくなるのです。
特に「コンテキストの中央部分」の情報は見落とされやすいという傾向があります。
コンテキストウィンドウを効率的に使うコツ
1. 必要な情報だけを送る
「念のため全部送っておこう」ではなく、本当に必要な情報だけに絞りましょう。
2. 重要な情報は最初か最後に
AIは入力の最初と最後の情報を記憶しやすい傾向があります。重要な指示は冒頭か末尾に配置しましょう。
3. 会話を適度にリセット
新しいトピックに移るときは、会話をリセットして「まっさら」な状態から始めることで、ノイズを減らせます。
4. 要約を活用
長い会話の場合、途中で「ここまでの要約を作って」とAIに依頼し、その要約を新しい会話の開始点にする方法も効果的です。
コンテキストウィンドウは「大きければいい」わけではありません。用途に応じて適切なサイズのモデルを選び、効率的に使うことが大切です。
今後の展望
無限コンテキストへの挑戦
MicrosoftのLongRoPEなど、コンテキストウィンドウを大幅に拡張する研究が進んでいます。将来的には「事実上無限」のコンテキストを持つAIも登場するかもしれません。
効率化技術の発展
Sparse Attention、Sliding Window Attentionなど、長いコンテキストを効率的に処理する技術も進化しています。
まとめ：AIの「記憶力」を理解して活用する
コンテキストウィンドウは、AIの「一度に覚えていられる量」を決める重要な数字です。
コンテキストウィンドウの重要ポイント：
- AIが一度に処理できるトークン数の上限
- 入力トークン＋出力トークンの合計
- 2024年現在、16,000〜1,000,000トークンまで幅広い
- 大きいほど長い会話・長文処理に対応
- ただし、コスト増・速度低下・精度低下のリスクも
- 効率的な使い方が重要
長い文書を扱いたいならGemini 1.5 Pro、コストを抑えたいならGPT-3.5 Turboなど、用途に応じた選択がポイントです。
