コンテキスト圧縮のコスト:何ターンで元が取れるか
目次
- 圧縮で何を解決したいのか
- ケース 1:モデルのコンテキストが足りなくなったら
- ケース 2:高い料金帯に入る前に圧縮すべきか
- ケース 3:1 回の圧縮は、その後何ターンで元が取れるか
- 圧縮するとキャッシュ書き込みの割増料金が無駄になるのか
- 回収ターン数の計算式は実測とどれくらい合うか
- DeepSeek の暗黙的キャッシュでは何が変わるか
- コンテキストの増加量は圧縮タイミングにどう影響するか
- 作業を継続する場合、モデルからどのような実行間隔が得られるか
- 総費用をどう測るか
- どのようなポリシーを導入すべきか
- よくある質問
- コンテキスト圧縮は必ず API コストを下げるのか
- 料金のしきい値に達したら、ちょうどそこで圧縮すべきか
- コンテキストウィンドウが埋まるまで待ってもよいか
- コンテキストの増加が速いほど、1 回の要約の元が早く取れるのか
- 暗黙的キャッシュなら、コンテキストの上限まで待つべきか
Claude Sonnet 5.5 でコンテキスト圧縮を行ったところ、約 14k トークンから始めたウォームキャッシュ使用の 6 回の実験では、その後の 4-6 リクエストで圧縮コストを回収できた。この範囲は今回のワークロードに固有の実測値だ。圧縮ポリシーを決めるには、要約の生成費用、実際のキャッシュ課金方式、圧縮コストを回収できるだけの残り作業量を考慮する必要がある。
TL;DR
- コンテキストウィンドウが逼迫した場合、使用中のコンテキストを減らすことは容量上の要件になる。今回のテストでは、モデルが受け付けるウィンドウの最大サイズは測定していない。
- 高い料金帯で要約を生成した例では、その後のクエリが 1 回だとほぼ収支均衡だった。要約ありで $0.0560882、履歴保持で $0.0560655 となり、2 回なら明確に要約コストを回収できた。
- 実験後に数式で検算すると回収まで 4-5 ターン、実測では 4-6 ターンだった。事前予測を検証した実験ではない。
- 6 問のアーカイブ検索タスクでは、正答数はいずれも 6/6 で、圧縮ありは $0.0156941、圧縮なしは $0.0059911 だった。
圧縮で何を解決したいのか
トークン数のしきい値を決める前に、コンテキストを減らす理由を決める。コンテキストの上限、料金帯の切り替わり、通常の長い会話では、判断基準が異なる。
コンテキスト圧縮は、過去の会話内容を短い表現に置き換え、以後のリクエストで使う仕組みだ。今回の実験では、クライアント側でテキスト要約を使った。通常のモデル呼び出しで要約を生成し、アプリケーションが過去の履歴をそのテキストに置き換えた。ネイティブの署名付き圧縮や暗号化された圧縮機能では、リクエストと使用量の扱いが異なる。
| 状況 | 主な目的 | 実行の判断基準 | 本記事で示す根拠 |
|---|---|---|---|
| モデルのコンテキストウィンドウに近づいている | タスクを実行可能な状態に保つ | 次の入力、ツール結果、出力のための空き容量 | 公開されているモデルの上限とエンジニアリング上の方針。最大ウィンドウの実験は未実施 |
| 高い料金帯に近づいている | ワークロード全体のコストを下げる | 料金差による予想削減額が、要約とその後の処理の費用を上回る | キャッシュなしで行った小規模な料金帯の実験 |
| ウィンドウにも料金帯にも余裕がある | 特定のワークロードを改善する | 必要な状態を失わず、要約コストを回収できるだけの有用な作業が残っている | キャッシュを使った状態保持の比較実験と短いアーカイブ検索タスク |
ケース 1:モデルのコンテキストが足りなくなったら
次のリクエストが対応ウィンドウを超える前に、使用中のコンテキストを減らすか、構成を見直す。この段階では、会話全体を保持したまま処理を続ける方法は成立しなくなる可能性がある。
Claude Haiku 5.5 のモデル仕様には、1M トークンのウィンドウと最大 128K の出力が記載されている。これは公開仕様だ。今回のゲートウェイルートで受け付けられる最大コンテキストはテストしておらず、後述の料金帯の実験でもその境界は確認していない。
次の入力、ツール結果、サービスが要求する出力枠のために容量を確保する。要約リクエストがまだ収まるうちに圧縮を実行する。必須の状態は要約か取得可能な元データに引き継ぎ、処理を正常に継続できたかを評価する。ウィンドウ超過で拒否されたリクエストを、安く成功した比較対象として扱ってはいけない。
ケース 2:高い料金帯に入る前に圧縮すべきか
実際の料金で計算し、残りの作業によって要約コストを回収できるなら圧縮する。料金のしきい値を超えると圧縮が有利になる場合があるが、要約そのものにも高い料金が適用される可能性がある。
Claude Haiku 5.5 は、入力が 100,000 トークンを超えると料金が変わる。2026 年 11 月 4 日に確認した標準の入力/出力料金は、その境界までは 100 万トークンあたり $0.10/$0.50、超えると $0.50/$2.50 だった。
内容に変化を持たせた架空の図書館レコードを、Synthorai ゲートウェイ経由で送信した。入力 94,350 トークンのリクエストは $0.009437、111,999 トークンのリクエストは $0.0560095 だった。どちらも出力は 4 トークンだった。この金額差には、入力長と料金帯の両方の影響が含まれる。
次に、大きい方の履歴を要約した。この呼び出しでは入力 112,028 トークンを処理し、キャッシュヒットの報告はなく、高い料金帯で $0.0560715 かかった。履歴を保持する場合も要約する場合も、数量と出典を問うクエリには正しく回答できた。
| 残りのクエリ数 | 履歴を保持 | 要約+縮小したコンテキストでのクエリ | 履歴保持を低い料金で再計算 | 圧縮を低い料金で再計算 |
|---|---|---|---|---|
| 1 | $0.0560655 | $0.0560882 | $0.0112131 | $0.0112310 |
| 2 | $0.1120760 | $0.0560944 | $0.0224152 | $0.0112372 |
クエリが 1 回ならほぼ収支均衡で、差は $0.0000227 だった。この例では、2 回あれば明確に要約コストを回収できた。すべてのトークンを低い料金で再計算することで、トークン量の影響と料金帯の影響を分けて見られる。
これらは、1 つの合成タスクで行ったキャッシュなしのリクエストだ。キャッシュ済みの履歴では事情が異なる。要約によって境界をどれだけ下回るか、新しい入力によっていつ再び境界を超えるかを確認する。長いコンテキストの料金帯も参照してほしい。
ケース 3:1 回の圧縮は、その後何ターンで元が取れるか
Claude Sonnet 5.5 で、入力が約 13.5k-14.2k トークンの状態からキャッシュを使って 6 回実験したところ、回収までに必要だったのはその後の 4-6 ターンだった。ここでの 1 ターンは、後続のモデルリクエスト 1 回を指す。要約生成とその後のキャッシュ書き込みを費用に含め、共通のウォームアップ後に続けた 12 リクエストのうち、累積費用が初めて逆転する地点を調べた。6 回すべてで、逆転後は 12 回目のリクエストまで圧縮側の費用が履歴保持側を上回らなかった。その後のキャッシュ失効、追加の要約、タスクの変化については、この結果の対象外だ。
圧縮するとキャッシュ書き込みの割増料金が無駄になるのか
判断時点で支払い済みの書き込み費用は埋没費用だ。比較すべきなのは、今後の読み取り費用の削減で、要約リクエストと新しい書き込みの費用をまかなえるかどうかになる。今回の実験では、TTL が 5 分の明示的キャッシュを使った。暗黙的キャッシュの料金体系はプロバイダーによって異なり、同じ書き込み割増料金があるとは限らない。
中程度の増加量で実行した 1 回の実験を見ると、最初の圧縮と、セッション後半での追加要約の違いがわかる。
| 圧縮の比較 | 削減できた将来の読み取り費用 | 継続処理で増えた書き込み費用 | 要約生成費用 | 12 ターン目までの差額 |
|---|---|---|---|---|
| 最初の要約と履歴保持の比較 | $0.0159875 | $0.0010175 | $0.0049761 | $0.0099939 安い |
| 2 回目の要約と 1 回で止めた場合の比較 | $0.0037283 | $0.0013925 | $0.0065302 | $0.0041844 高い |
2 行目には、その他のトークン費用が $0.0000100 少なかった分も含まれる。要約の料金には、要約呼び出し自身のキャッシュ区分も含まれている。二重計上してはいけない。トークン区分だけでは、どの個別エントリが一度も再利用されなかったかはわからない。
回収ターン数の計算式は実測とどれくらい合うか
単純なウォームキャッシュのモデルで、回収に必要な残りターン数を見積もれる。置き換える履歴のトークン数を H、置換後の要約の入力トークン数を S、要約リクエスト全体の費用を A、キャッシュ読み取りのトークン単価を r、書き込みのトークン単価を w とする。変更しない指示は、置き換える履歴より前に保持する。
今後 n 回リクエストする場合、履歴保持の費用は n*r*H になる。置換する場合は A + w*S + (n-1)*r*S だ。両者の差分は次のとおりになる。
compact cost minus retain cost
= A + (w-r)*S - n*r*(H-S)
payback turns
= ceil((A + (w-r)*S) / (r*(H-S)))
この式は、H > S であること、すぐにキャッシュ対象になること、料金が変わらないこと、その後の追加内容、出力、ツール処理が両方で等しいことを前提とする。キャッシュ失効、保持するプレフィックスの追加書き換え、品質を回復するための費用は含まない。これらが変わる場合は、区間ごとに費用を計算する。
この式は実験後に適用した。入力に使ったのは後続処理の費用ではなく、ウォームアップと要約の使用量記録だが、結果はすでにわかっていた。これは事後検算であり、未使用データや事前予測による検証ではない。分析では、H をウォームアップの総入力トークン数、S を要約の出力トークン数で近似した。固定の指示、付加テキスト、キャッシュ対象の条件があるため、これらは正確に置換可能な履歴量や置換後の入力量とは異なる。
| 入力量の増加 | 実行 | 事後の推定 | 実測の回収ターン数 |
|---|---|---|---|
| 約 96 トークン/ターン | 1 | 5 ターン | 6 ターン |
| 約 96 トークン/ターン | 2 | 5 ターン | 6 ターン |
| 約 1.4k トークン/ターン | 1 | 5 ターン | 5 ターン |
| 約 1.4k トークン/ターン | 2 | 4 ターン | 4 ターン |
| 約 5.2k-5.5k トークン/ターン | 1 | 5 ターン | 5 ターン |
| 約 5.2k-5.5k トークン/ターン | 2 | 4 ターン | 5 ターン |
この 6 回では、検算の誤差は最大 1 ターンだった。今後の判断に使うには、過去の要約から A と S を見積もり、新しいタスクで検証する必要がある。この比較から一般的な誤差の保証は得られない。
DeepSeek の暗黙的キャッシュでは何が変わるか
独立したキャッシュ書き込み料金がないからといって、圧縮後の入力が無料になるわけではない。DeepSeek V4.1 Flash 1017 は自動キャッシュを使い、ヒット時とミス時で入力料金が異なる。料金ページには、独立した書き込み料金は記載されていない。新しい要約プレフィックスがキャッシュされていなければ、ミス時の入力料金がかかる。
キャッシュのドキュメントでは、永続化されたプレフィックスの単位と一致することが要件になっている。構築には数秒かかり、ヒットはベストエフォートなので、置換後のプレフィックスが複数のリクエストでミスする可能性がある。prompt_cache_hit_tokens と prompt_cache_miss_tokens を記録する。コールドな呼び出しが必ず 1 回で済むとも、変更していないシステムプレフィックスが必ずヒットするとも仮定しない。
ミス時の入力トークン単価を p、今後の n リクエストのうち、置換後のプレフィックスがコールドなリクエスト数を m とする。履歴を保持する比較対象がキャッシュに残り、その後の共通費用が相殺されるなら、次の式になる。
compact cost minus retain cost
= A + m*(p-r)*S - n*r*(H-S)
コールドなリクエストが 1 回なら、w にはゼロではなく p を代入する。m が不明なら、複数のケースを計算するか、実際のヒット/ミス区分に基づいて費用を求める。固定プレフィックスや要約呼び出しのミスも含める。
以下は 数式による計算であり、DeepSeek での実験ではない。公式のオフピーク時の Flash 料金である、ヒット入力 $0.003/M、ミス入力 $0.15/M、出力 $0.60/M を使う。要約は 1k トークン、元の履歴はキャッシュ済み、置換後のコールドリクエストは 1 回、要約費用は A = r*H + output_price*S と仮定する。付加テキスト、推論、ツールは無視する。
| 元の履歴 | 仮定した要約呼び出しの費用 | 計算上の回収回数 |
|---|---|---|
| 10k トークン | $0.000630 | 29 リクエスト |
| 100k トークン | $0.000900 | 4 リクエスト |
読み取りが安い場合、短いキャッシュ済み履歴は保持する方が有利になりうる。一方、作業が長く続くなら圧縮コストを回収できる可能性がある。DeepSeek の品質や回収期間は測定していない。ピーク時の料金や、複数の料金が混在するセッションでは再計算する必要がある。
コンテキストの増加量は圧縮タイミングにどう影響するか
増加量によって、判断時点の履歴サイズが変わる。圧縮までに j ターン経過し、各ターンで g トークン増えるなら、回収ターン数の式に H_j = H_0 + g*j と、その時点の要約サイズおよび費用を代入する。
その後の増加量が同じなら、両方の方法に共通の費用が加わる。料金とキャッシュの挙動が変わらなければ、その分は相殺される。増加が速いほど容量や料金の制約には早く達するが、それだけで回収ターン数が決まるわけではない。
今回の増加量のテストでは、アーカイブ用のデータが増えても、必須の状態は小さいままだった。12 ターンの実験を各 2 回行ったところ、中程度の増加量では繰り返し要約する方が 1 回だけの場合より高く、増加量が多い場合は安くなった。延長分を含め、すべてのポリシーが状態を問うクエリ 96/96 に正しく回答した。ただし、必須の状態が際限なく増えるケースを検証したものではない。
作業を継続する場合、モデルからどのような実行間隔が得られるか
増加量、要約サイズ、料金、キャッシュの挙動がほぼ一定の長時間タスクを考える。要約出力と置換部分の再書き込みを含む、圧縮サイクルごとの固定費用を F とする。間隔に比例する費用は除外する。そうした費用は、1 ターンあたりに均すと一定だからだ。要約モデルが履歴をキャッシュから読む場合、F は A - r*H + w*S と見積もれる。別の料金体系では、それに応じて分解する必要がある。1 ターンあたりの増加量を g、要約の間隔を k とすると、間隔に依存する平均費用は次のようになる。
average interval-dependent cost = F/k + r*g*(k-1)/2
candidate interval k = sqrt(2*F/(r*g))
candidate history threshold = S + g*k
この式には、F、r、g が正であること、保持する要約が小さいこと、タスクの品質が同等であることが必要だ。増加量がゼロなら、増加を理由とする定期実行は不要になる。読み取りが無料なら、このモデルでは読み取り費用の削減による回収は見込めない。今回の明示的キャッシュの料金と要約サイズでは、増加量が少ない場合、中程度、多い場合の候補間隔は、それぞれ約 30、7-8、4 ターンとなる。容量の余裕を確保しつつ、最小 1 リクエストとして近隣の整数をテストする。間隔を網羅的に比較していないため、これらが最適だとは確認できていない。ミス入力に課金するキャッシュでは、固定費用を別途分解する必要がある。
具体的な計算で単位を確認する。中程度の増加量で記録した 1 回の実験では、A = $0.0049761、H = 13,712、S ≈ 341、g ≈ 1,396 tokens/turn だった。r = $0.10/M、w = $2.50/M を使うと次のようになる。
F ≈ 0.0049761 - (0.10/1,000,000)*13,712
+ (2.50/1,000,000)*341
= $0.0044574 per cycle
k ≈ sqrt(2*0.0044574 / ((0.10/1,000,000)*1,396))
≈ 8 requests
これは記録した値から候補を計算したもので、8 リクエストごとのポリシーが最適だと示したものではない。残り期間に収まるかどうかは別に確認する。回収に 5 リクエストかかると見積もられ、残りが 3 リクエストしかないなら、定期タイマーが実行時刻を示していても、その任意の圧縮は見送る。
完了が近いタスクでは、残りのリクエストで費用を回収できない追加要約は省く。容量、料金帯、必要な情報の保持は、この単純化した金銭モデルより優先する。
短いアーカイブ検索タスクが、この判断の例になる。どちらの方法も 6 件の数量に正しく回答したが、履歴保持は $0.0059911、要約込みでは $0.0156941 かかった。6 回のクエリでは圧縮コストを回収できなかった。要約には十分な詳細が残っており、追加の検索は不要だった。回収に必要な期間は実際の要約とワークロードで決まり、常に 4-6 ターンという規則ではない。
総費用をどう測るか
要約、書き換え後の最初のリクエスト、その後のすべての処理を含める。プロンプトのトークン削減量やキャッシュヒット率だけでは、節約できたとは判断できない。
Claude Sonnet 5.5 の集計には、新規入力 $2/M、5 分間のキャッシュ書き込み $2.50/M、キャッシュ読み取り $0.10/M、出力 $10/M を使った。キャッシュ読み取りは安いが、無料ではない。キャッシュ済みの履歴を置き換えると、新たな書き込みが発生する場合がある。一方、要約が非常に短いと、そもそもキャッシュの対象にならないこともある。今回、コンテンツブロックに明示的なブレークポイントを設定すると、キャッシュの書き込みと読み取りを測定できた。ただし、圧縮後の短いプレフィックスの一部では、最初はどちらも報告されなかった。
次の関数は、コールドプレフィックスのリクエスト数を指定する前提になっている。cold_input_per_million には、明示的キャッシュの書き込み料金か、暗黙的キャッシュのミス入力料金を渡す。
import math
def payback_turns(summary_cost, history_tokens, summary_tokens,
read_per_million=0.10, cold_input_per_million=2.50,
cold_requests=1):
if cold_requests < 0 or int(cold_requests) != cold_requests:
raise ValueError("cold_requests must be a nonnegative integer")
r = read_per_million / 1_000_000
p = cold_input_per_million / 1_000_000
if summary_cost < 0 or p < r:
raise ValueError("Unsupported cost assumptions")
if history_tokens <= summary_tokens or r <= 0:
return None
upfront = summary_cost + cold_requests * (p - r) * summary_tokens
saving_per_turn = r * (history_tokens - summary_tokens)
return max(1, cold_requests, math.ceil(upfront / saving_per_turn))
圧縮前に判断するには、過去の呼び出しから要約費用を見積もる。失敗や復旧作業も含む完全な使用量記録で検証する。記録が欠けているリクエストを無料として扱ってはいけない。
測定は 2026 年 11 月 4 日に、ゲートウェイの Messages インターフェース経由で実施した。thinking は無効で、ホスト型ツールは使っていない。通常の応答は出力 128 トークン、要約は 2,048 トークンを上限とした。返された使用量から標準料金で費用を再計算し、ゲートウェイが報告した費用と照合した。供給元の請求書との突き合わせではない。通常のワークロードで試したのは、ネイティブの圧縮実装ではなく、クライアント側の要約だ。
どのようなポリシーを導入すべきか
まず容量と料金の制約を適用し、入力、ツール、出力のための余裕を確保する。Claude Sonnet 5.5 の明示的キャッシュを使うワークロードでは、書き込みの割増料金と要約費用を含め、完了までに回収できそうにない任意の圧縮は見送る。タスクの到着条件と終了ターンを揃えて、解析上の候補に近い整数の間隔を検証する。
DeepSeek V4.1 Flash 1017 の暗黙的キャッシュでは、ヒットが安定していて残りの作業が少ないなら、有用なプレフィックスを保持する。容量上のソフトなしきい値を遅めに設定する判断もありうる。ただし、独立した書き込み料金がゼロでも、ハードリミットまで待ってよいわけではない。作業が長く続く場合は、実際のヒット/ミス費用を見積もり、書き換え後はヒットが出るまでリクエストを監視する。
料金、キャッシュの状態、モデル、必須状態のサイズが変わったら再計算する。取得可能な元データを残し、細部の正確さが必要なタスクでは変更された値を検証する。要約とその後の使用量は、正しいトークン区分を使い、1 つのエージェントセッションに記録する。
よくある質問
コンテキスト圧縮は必ず API コストを下げるのか
削減額が、要約、キャッシュ再構築、復旧の費用を上回る必要がある。今回の 6 クエリのアーカイブ検索では、要約ありで $0.0156941、履歴保持で $0.0059911 となり、正答数はいずれも 6/6 だった。
料金のしきい値に達したら、ちょうどそこで圧縮すべきか
料金のしきい値は、残りのワークロード全体を評価する地点であり、自動的に要約を実行する指示ではない。Claude Haiku 5.5 の例では、要約自体に 100,000 トークン超の料金が適用された。その後のクエリが 1 回ならほぼ収支均衡で、2 回なら明確に費用を回収できた。
コンテキストウィンドウが埋まるまで待ってもよいか
要約リクエスト、次の入力やツール結果、出力のための容量を残す。履歴がすでに大きすぎると、要約リクエスト自体が収まらない可能性がある。今回、最大ウィンドウを超えて失敗する境界は測定していない。
コンテキストの増加が速いほど、1 回の要約の元が早く取れるのか
両方の方法で共通の増加が速くなると、どちらの費用も増える。1 回の要約による節約額が自動的に増えるわけではない。圧縮を繰り返せば、その後の蓄積を抑えられるが、要約と書き換えの費用が加わる。今回の中程度の増加量では、12 ターンの間に圧縮を繰り返す方が 1 回だけの場合より高く、増加量が多い実験では繰り返す方が有利だった。増加量、残り期間、保持すべき状態を踏まえてポリシーを選ぶ。
暗黙的キャッシュなら、コンテキストの上限まで待つべきか
短いタスクでは、暗黙的キャッシュによって、安いウォーム履歴を保持する方が有利になる場合がある。DeepSeek V4.1 Flash 1017 でも、キャッシュされていない要約プレフィックスにはミス入力料金がかかり、永続化はベストエフォートだ。残りの作業で得られる効果を見積もり、対応ウィンドウに達する前にツール、入力、出力のための余裕を確保する。上記の DeepSeek の値は計算結果であり、実測したしきい値ではない。