ガイド
トークンとコンテキスト:GPTが記憶を保持できる仕組み
AIモデルは「トークン」と呼ばれる細かい単位でテキストを読み取り、一度に把握できる量には上限があります。この仕組みを理解すれば、会話が長くなると話が噛み合わなくなる理由や、要約して新しいチャットを始めたほうがよい理由がよく分かります。

AIと長いチャットをしているうちに、最初に伝えたはずの情報を突然忘れられてしまった経験はありませんか?それはバグでも、モデルの不注意でもありません。これが「コンテキスト上限」です。言語モデルはテキストを「トークン」と呼ばれる細かい単位で読み取り、回答するたびに会話全体の一定量しか考慮できません。トークンとコンテキストの仕組みを理解すると、こうした不思議な挙動の理由がわかり、いくつかの簡単な工夫でGBT Chatでの長いやり取りも正確に保てるようになります。
トークンとは
トークンとはテキストのひとかたまりのことです。短い単語なら丸ごと1つ、長い単語ならその一部、句読点、あるいは空白と数文字の組み合わせなど様々です。たとえば英語の「Cat」は1トークンですが、「Unbelievably」は複数に分割されることがあります。数字、コード、珍しい固有名詞などは、一般的な単語よりも細かく分かれる傾向があります。
OpenAIの目安では、英語の1トークンは約0.75単語に相当し、100トークンでおよそ75単語になります。他の言語(特に長い複合語が多い言語や非ラテン文字を使う言語)では、同じ意味を伝えるのにより多くのトークンが必要になるのが一般的です。当サイトのチャットでは自分でトークンを数える必要はありませんが、この仕組みを知っておくと長さがなぜ重要なのかがよくわかります。
文字ごとや単語ごとではなく、なぜ「かたまり」なのでしょうか?1文字ずつだと処理するテキストが膨大になりすぎ、単語単位だとあらゆる人名、タイプミス、言語をカバーするために辞書が途方もない大きさになってしまいます。トークンはその中間に位置する効率的な仕組みであり、すべての最新GPTモデルで採用されています。
コンテキストウィンドウとは
コンテキストウィンドウとは、モデルが回答を生成する際に一度に考慮できるテキストの総量です。これにはサイト側のシステム指示、それまでのやり取り、あなたの新しいメッセージ、そして生成中の回答まで、モデルに渡されるすべてが含まれます。モデルの「作業机」のようなものだと考えてみてください。机の上に載っているものは使えますが、載り切らないものは存在しないのと同じです。
モデル自身には、これ以外の会話の記憶は一切ありません。あなたがメッセージを送信するたびに、チャットシステムが会話の必要な部分を再送信し、モデルはそれを毎回最初から読み直しています。同じチャット内なら前の発言を「覚えている」ように見え、別のチャットのことは何も知らないのはこのためです。
ウィンドウの大きさと当サイトの仕組み
OpenAIの公式ドキュメントによると、当サイトで採用しているGPT-6モデルのコンテキストウィンドウは約105万トークンと非常に巨大です。しかし、メッセージごとにそれほどの量を送信すると動作が遅くなり、コストも跳ね上がってしまうため、無料サイトでは1回のリクエストをコンパクトに抑える必要があります。そのためGBT Chatでは、直近数ページ分のやり取りと新しいメッセージだけをモデルに送信しています。日常的な会話で困ることはありませんが、長時間のセッションでは最も古いメッセージから順に対象外となっていきます。
回答の長さにも同様の上限があります。非常に長い回答が途中で止まってしまった場合は、「続けて」と入力すれば中断したところから再開します。
画像もトークンとしてカウントされます。+ボタンで写真を添付すると、そのメッセージと一緒に送信されてウィンドウの一部を消費します。送信されるのはチャット内の最新の画像2枚までで、それより前の画像は「以前ここに画像があった」という短い注記に置き換わります。過去の画像についてもう一度質問したい場合は、再度添付してください。
長いチャットの精度が落ちる理由
会話が長くなるにつれて、主に次の3つの現象が起こります。
- 初期の詳細が抜け落ちる。 2通目で伝えた予算の情報は、30通目になる頃には「作業机」の上から落ちているかもしれません。
- 古い指示と新しい指示が競合する。 序盤に「フォーマルに」、後から「カジュアルに」と指定した場合、モデルはどちらを優先すべきか迷ってしまいます。
- 誤解が積み重なる。 途中でモデルが出した誤りを訂正せずに進めると、その間違いが履歴に残り、後の回答にも悪影響を及ぼします。
解決策は、長いチャットを避けることではなく、上手にコントロールすることです。以下の習慣を取り入れれば、重要な情報を常にモデルの視界内に留めておけます。
長いチャットを正確に保つコツ
改善前: (40通目のメッセージ) それでは、最終版を書いてください。 改善後: カバーレターの最終版を作成してください。条件のおさらい: 応募先は総合病院のジュニアデータアナリスト、最大250語、 受講したSQL講座とボランティア活動に言及、親しみやすくも プロフェッショナルなトーン。
改善後のメッセージでは、モデルが覚えていることを当てにせず、重要なポイントを再掲しています。数行追加するだけで、モデルの迷いを完全になくせます。ほかにも次のような習慣が効果的です:
- 要約して仕切り直す。 「これまでに合意した内容を箇条書きでまとめて」と頼み、新しいチャットを開いてその要約を1通目に貼り付けます。要約用プロンプトを開くから、長くなったチャットですぐに使えます。
- 1つのチャットに1つのテーマ。 話題が変わったら新しいチャットに切り替えましょう。サイドバーでチャットの名前を変更しておくと、後から見つけやすくなります。
- 間違いはその場で直す。 誤解が生じたら、そのまま会話を続けるのではなく、自分のメッセージの編集を使って元の発言を修正しましょう。
- 長い資料のあとに指示を置く。 長文を貼り付ける際は、テキストの末尾にも指示を添えて、リクエストが直近の記憶に残るようにします。
長文を扱うときのポイント
1通のメッセージに入力できるのは数ページ分ほどで、長すぎるテキストは送信できません。そのため、大きなドキュメントは小分けにしましょう。1セクションずつ送信して短い要約を作らせ、それらを新しいチャットに集めて作業を進めます。一度にすべて貼り付けるより手間はかかりますが、モデルが各パートをしっかり読み込めます。セクションごとの要約には要約ツールが便利です。その他の実践的なプロンプトは読解・リサーチ活用ガイドをご覧ください。
長文を貼り付ける際のヒント:
- 「パート 1/4」「テキストA」「テキストB」のように、各部分を明確にラベリングする。
- ヘッダー、脚注、長い参考文献リストなど不要な部分を削除し、重要な本文にウィンドウを割く。
- 本文の前で「注目すべきポイント」を伝え、本文の後でも繰り返す。
トークン・「思考」機能・応答速度
Think(思考)をオンにすると、GPT-6.1 Terraは回答を書き始める前に少し時間をかけて推論を行います。この思考プロセスにもトークンが消費されますが、画面には表示されず、メッセージの利用枠を余計に消費することもありません。ただ「○秒間思考」と短い待機時間が表示されるだけです。標準のGPT-6 Lunaはこの思考ステップを省略するため、より高速に応答します。どちらを選んでも、モデルが参照できるチャットの履歴量に違いはありません。実際の使い分けについては、LunaとTerraの比較やGPTバージョン解説で詳しく紹介しています。
よくある質問
メッセージが長いと無料利用枠の消費が増えますか?
いいえ。長さにかかわらず、1回の送信は1回としてカウントされます。長すぎるメッセージはカウントされずにエラーとなり、長いチャットは前述の通り古い履歴が省略されます。1日の上限についての詳細はFAQをご覧ください。
別のチャットに移っても私のことを覚えていますか?
いいえ。チャットは毎回まっさらな状態で始まり、チャット間で記憶が引き継がれることはありません。履歴はお使いのブラウザ内にのみ保存されるため過去のチャットを再開することはできますが、モデルには現在開いているチャットの内容しか見えません。
最初に伝えた指示が途中で無視されることがあるのはなぜですか?
会話が長くなって指示がモデルの参照範囲から外れてしまったか、後の発言によって打ち消されたと判断された可能性があります。直近のメッセージでもう一度同じ指示を伝えてみてください。
他言語では1トークンは何単語くらいですか?
言語によって異なります。英語は最も効率的な部類に入り、他の多くの言語では同じ内容でもより多くのトークンを消費します。当サイトの利用においては、長いチャットの切り捨てが少し早まる程度で、使い勝手に大きな影響はありません。
コンテキストウィンドウは大きければ大きいほど良いですか?
必ずしもそうとは限りません。ウィンドウが非常に大きくても、何でも詰め込んだ長文より、要点が絞られた簡潔なテキストのほうがモデルは正確に理解できます。長くて散らかった履歴よりも、短く整理されたコンテキストのほうが質の高い回答を得られます。
関連記事
今すぐ質問して回答を得る
アカウント登録もクレジットカードも不要、ダウンロードも必要ありません。知りたいことを入力すれば、わずか数秒で回答が始まります。