🎁 新用戶 免費註冊,送 10 次呼叫,最高 $1,免綁卡。
GPT-5.6 成本指南:Prompt Caching 打一折、推理力道設定

GPT-5.6 成本指南:Prompt Caching 打一折、推理力道設定

目錄
  1. 三個層級,同一世代
  2. 依官方文件說明的 5.6 快取運作方式
  3. 計費表怎麼說
  4. 相同工作負載在 GPT-5.5 上的對照
  5. 第二個槓桿:reasoning effort
  6. 各種工作負載的建議做法
  7. tokenizer 沒有變
  8. 結論
  9. 常見問題

GPT-5.6 同時動了兩個成本槓桿:快取輸入降到輸入費率的 10%(5.x 只打五折),而且推理預設是開啟的,在我們的 50 次呼叫測試矩陣中,不送 reasoning_effort 的花費是把它釘成 none 的 1.5 倍,兩者答案完全相同。輸入端現在最多可以明確釘住四個快取 breakpoint;輸出端則由力道旋鈕決定你要為多少思考付費。我們透過閘道在首發當天的三個模型上實測了這兩個槓桿:Sol(每 100 萬 token 輸入/輸出 $5/$30)、Terra($2.50/$15)和 Luna($1/$6),每個費率都對照即時的 usage.cost 計量器確認過。

TL;DR

  • 快取輸入以輸入費率的 10% 計費,實測各層級為每 100 萬 token $0.10/$0.25/$0.50;5.x 只打五折。
  • breakpoint 帶來部分重用:修改標記之後的區塊,只有 2,431 個 token 中的 1,210 個被重新計費。
  • 少於 1,024 個 token 的前綴永遠不會快取,重複請求也可能默默沒命中;預算時要抓命中率低於 100%。
  • 快取寫入對寫入的 token 以 1.25 倍計費;一個從未被讀取的寫入比不快取還貴。
  • 在一個 4 項任務的矩陣中,省略 reasoning_effort 的花費是 none 的 1.5 倍,答案完全相同;請明確釘住它。

實測時間為 2026-07-10,透過 Synthorai 閘道(OpenAI 相容的 chat completions),也就是 OpenAI 發表這個系列後一天。三個模型都已上線;新的快取參數會原封不動傳遞。

三個層級,同一世代

命名方式是新的:數字代表世代,Sol、Terra 和 Luna 是能力層級,取代了原本的 pro/mini/nano 後綴。三者共用 1M token 的 context window 和 128K 的最大輸出。下表每個費率都在已知 token 數上和計量的 usage.cost 精確對上,包含快取那一欄:

層級輸入 /1M輸出 /1M快取輸入 /1M(實測)
gpt-5.6-sol$5.00$30.00$0.50
gpt-5.6-terra$2.50$15.00$0.25
gpt-5.6-luna$1.00$6.00$0.10

Sol 是旗艦,也是 gpt-5.5 的價格對等接班人:費率表完全相同,都是 $5/$30。Terra 和 Luna 是同世代的縮減層級,價格分別是 Sol 的一半和五分之一,接下了過去 mini 和 nano 後綴的位置。以 token 計數來說,三者是同一個模型:我們送出的每個樣本都回傳一樣的計數。

依官方文件說明的 5.6 快取運作方式

過去 GPT 的快取只有一種行為:API 會自行偵測 1,024 個以上 token 的重複前綴,並以半價計算命中的快取部分。我們的供應商比較也正是因此把 GPT 那一欄歸類為「全自動」。5.6 快取指南則把這套做法換成了雙模式設計:

{
  "model": "gpt-5.6-luna",
  "prompt_cache_options": { "mode": "explicit", "ttl": "30m" },
  "prompt_cache_key": "tenant-42",
  "messages": [
    {
      "role": "system",
      "content": [
        {
          "type": "text",
          "text": "...stable system prompt, 1024+ tokens...",
          "prompt_cache_breakpoint": { "mode": "explicit" }
        }
      ]
    },
    { "role": "user", "content": "the varying part" }
  ]
}

從指南濃縮出來的關鍵規則:

  • breakpoint 標記快取前綴的結尾,涵蓋該區塊以及它之前的所有內容。implicit 模式(預設)仍會自動在最新一則訊息上放置一個 breakpoint;explicit 模式則只快取你標記的部分。
  • 每個請求可寫入四次快取,而 implicit 的自動 breakpoint 會佔掉其中一個,所以在預設模式下 explicit 標記只剩三個名額,explicit 模式下則有四個。來自先前對話回合的 breakpoint,在後續請求中是唯讀的。
  • 1,024 token 的下限仍然存在:低於此限的標記前綴不會被快取。
  • ttl: "30m" 是保證的最短存活時間,而非上限(「至少 30 分鐘……可能保留更久」)。它取代了 prompt_cache_retention,後者在 5.6 已棄用,這也代表舊有的 24h 延長保留選項一併消失了。
  • prompt_cache_key 是取得可靠命中的方式:指南建議每個租戶或工作階段使用一個穩定的 key,把重複請求導向同一份快取,每個 key 有大約每分鐘 15 個請求的軟性上限。快取的範圍限於你的組織。
  • 快取寫入以輸入費率的 1.25 倍計費(5.6+),並回報在新的 usage.prompt_tokens_details.cache_write_tokens 欄位。在 5.x 及更早版本,寫入是免費的。

GPT-5.5 及更舊的版本會用一個乾淨的 400 拒絕這些新參數(prompt_cache_options is not supported on this model),所以任何推出都要做版本閘控。

這套設計聽起來很眼熟並不奇怪:內容區塊上的標記、四個 breakpoint、寫入加價,以及一段滑動的唯讀歷史,本來就是 Claude 的 cache_control 一直以來的樣貌。差別在 TTL:OpenAI 保證的 30 分鐘下限,是 Claude 預設 5 分鐘的 6 倍。

計費表怎麼說

文件講的是宣稱,這裡是閘道計費表逐項探測後真正回傳的數據。完整的原始記錄都在執行日誌裡,下面每一筆成本都能對照級別費率、逐位對齊。

探測結果
明確寫入,≈3k 權杖標記前綴(Luna)cache_write_tokens=3012,以 $1.25/1M 計費:1.25 倍溢價,分毫不差
以不同問題重複cached_tokens=3012,完整標記,以 $0.10/1M 計費;此次呼叫比寫入呼叫便宜 90%
Sol / Terra 上的寫入溢價每百萬寫入權杖 $6.25 / $3.125:各為 1.25 倍,精確到個位
Sol / Terra 上的快取費率每百萬 $0.50 / $0.25:恰為輸入的 10%
621 權杖的標記區塊,兩次從未快取:cache_write=0cached=0,兩次呼叫皆為全價
1,221 權杖的標記區塊正常寫入(寫入 1,212)
兩個中斷點 [A][B],接著更改 Bcached=1212(恰為區塊 A)+ cache_write=1210(新的尾端,以 1.25 倍計)
單一請求中五個中斷點接受且無錯誤,全部 5,548 權杖寫入(4 次寫入上限計算的是插槽,而非權杖;較後的標記涵蓋其前所有內容)
在 Luna 上寫入的前綴,於 Terra 上重新傳送cached=0,重新寫入:快取是各模型獨立的
一次快取未命中也可能伴隨 cache_write=0:全價、未快取任何內容、無錯誤

其中三列值得展開講。

部分重用是真的,而它正是該採用斷點的理由。 區塊 A 穩定、尾段 B 換掉時,計費表只重新計費尾段:在一個 2,431 token 的 prompt 裡,1,212 個 token 以快取費率讀回,1,210 個新的 B 以寫入溢價寫入,總額與費率卡逐位對齊。這就是 Claude 使用者拿來組織 prompt 的那種分層前綴行為(system prompt,接著 tools,再接著文件,每一層各自標記),而 GPT 的自動模式永遠保證不了。補一句:完整重複時,比對到的長度有時會掉到標記以下(某次探測是 2,422 token 的寫入只比對到 1,897),所以要用折扣費率來抓預算,別靠精確的比對數量。

**下限和無聲的未命中是營運上的陷阱。**一個 621 個權杖的標記區塊什麼都沒快取到,兩次,沒有錯誤,除了那些零之外也沒有任何使用量提示;如果你的「穩定前綴」是一段簡短的系統提示,那你就是在付全額費用,卻沒有任何東西告訴你。而未命中也可能在沒有寫入的情況下發生,付全額費用,同樣毫無聲息。命中率是一種分佈,而非承諾,無論你的請求走哪條路徑:在正式環境中讀取 cached_tokens 並對其設定警示,就像我們的五分鐘快取稽核所做的那樣。

寫入溢價是真的,而它改變了損益平衡點。 三個級別上,寫入 token 都精確地以 input 費率的 1.25 倍計費(Luna 寫入計費為每百萬 $1.25,Terra 為 $3.125,Sol 為 $6.25),在我們最終這輪的每一筆探測都逐位對齊。這筆溢價只有在前綴再次被讀取時才回本:一次從未命中的寫入,比完全不快取還貴 25%,這正是我們在 LangChain 那篇量到的 Claude 寫入溢價陷阱。只標記你知道會重複的前綴,別把所有看起來穩定的東西都標。

在我們探測的範圍內,30 分鐘的下限維持穩定。寫入後 15 分鐘進行的帶鍵重讀完全命中快取(1,313 個權杖中的 1,313 個,以 10% 的費率結算),遠超過先前 5 到 10 分鐘的記憶體內時限,而在相同間隔下進行的第二次帶鍵探測也重現了相同結果。我們並未探測完整的 30 分鐘。

相同工作負載在 GPT-5.5 上的對照

要公平比較,就得看同價位:Sol 沿用 gpt-5.5 完全一樣的費率($5/$30),是它同級的接班型號,Terra 和 Luna 則是往下縮減的等級。標價相同,但快取條款差很多:

gpt-5.5gpt-5.6-sol
每 1M 輸入/輸出標價$5.00 / $30.00$5.00 / $30.00
快取輸入費率輸入的 50%(文件記載)輸入的 10%(實測)
快取控制僅自動自動 + 最多 4 個明確標記
存活時間5-10 分鐘盡力而為,可選 24 小時保留保證 30 分鐘下限(依 key);24 小時選項取消
快取寫入費寫入 token 收 1.25 倍輸入費

在相同的標價下,快取條款才是真正的升級。一段 3,000 個權杖的前綴,在 5.5 上它的自動快取決定命中時,每次呼叫花費 $0.0075,而在暖啟的 Sol 上則為 $0.0015,在快取的部分便宜 5 倍。更深層的改變在於控制與可見性:5.5 的命中取決於不透明的前綴偵測,你既無法觸發也無法除錯,而 5.6 讓你能精確標記哪些內容應該快取、用 prompt_cache_key 路由重複請求,並在 usage 中觀察每一次寫入的落地情形。現在的未命中會顯示為你所建立欄位中的一個零,而不是一片沉默。降階路徑更是層層疊加:如果 5.5 對這項工作負載過度服務,Terra 將整份費率表減半,Luna 則除以五,同一段暖前綴便降至 $0.00075 與 $0.0003。5.5 唯一保留的是選用的 24 小時保留期;如果你的流量是針對一個龐大前綴的每日批次作業,這個取捨就會朝另一個方向傾斜。另外請注意,第二個槓桿在遷移時的作用方向相反:5.6 預設會進行推理,因此一個 5.5 的工作負載在未鎖定 reasoning_effort 的情況下遷移過來,會以相同的費率表產生新的輸出花費。

第二個槓桿:reasoning effort

快取決定輸入端的花費,reasoning_effort 則決定輸出端,因為 reasoning token 是以 output 費率計費,而且跟前綴不一樣,永遠無法被快取。GPT-5.6 在所有 tier 都接受從 nonexhigh 的設定。發表文章還介紹了 Sol 上的 max effort,但透過 chat completions 並不存在(400: 'reasoning_effort' does not support 'max' with this model,Sol 和 Terra 都一樣),所以對閘道和 SDK 使用的 API 路徑來說,xhigh 是實際上的上限。

我們跑了一組 50 次呼叫的矩陣:四種任務型態(分類一則評論、從一行 log 抽出某個欄位、一道多步驟的算術應用題、一個小型的程式碼生成任務),搭配全部六種設定(nonexhigh 再加上省略參數),在 Terra 和 Luna 上執行,並在 Sol 上做抽查。50 個答案在每種設定下全部正確。有差別的是帳單。這些都是短輸出的呼叫(幾十個可見 token),所以幾十個以 output 費率計費的 reasoning token 就主導了總花費;比例欄比較的是整次呼叫的成本:

任務(Luna)none 下的 reasoning token預設(省略)下預設相對 none 的成本
classify001.0x
extract001.0x
math0243.5x
code0392.5x

有三個發現。第一,5.6 本身會自行調整:在兩個很簡單的型態上,沒有任何設定花掉半個 reasoning token,所以這個旋鈕在那裡是免費的。第二,在看起來值得動腦的型態上(math、code),預設就算沒有任何好處也會去 reasoning:省略參數在 Luna 的 math 和 code、以及 Terra 的 math 上,花掉了 none 價格的 2.5x 到 3.5x(Terra 的 code 那次在預設下剛好沒花任何 token),得到的卻是同樣正確的答案;把 Terra 和 Luna 整個矩陣加總起來,是 1.5x。第三,中間那些設定(表格未列出)是雜訊,不是可調的旋鈕:Terra 的 math 那次在 low 花了 19 個 reasoning token、medium 是零、high 是 21、xhigh 又是零;Luna 的 code 那次 xhigh 花了 101 個,high 卻只有 41 個。這些名稱代表的是意圖,不是預算,跟我們在 GLM 5.2 上量到的行為一樣。

每次呼叫都明確送出 reasoning_effort,並在分類、抽取、routing 和短轉換這類任務上把它預設為 none。只有在你的 eval 顯示較高的設定會改變結果時,才針對特定呼叫點往上調,而不是因為任務感覺很難。我們這四種型態都是短輸出的 API 工作負載;真正困難的多步驟工作或許值得花 reasoning 成本,但要讓量測來說話。

這兩個槓桿會相乘。一旦前綴變熱,Luna 呼叫的輸入端只要牌價的十分之一,reasoning 預設就成了短任務上剩下最大的一筆花費:Luna 的 math 呼叫在 none 下總共 $0.00007,省略參數則是 $0.00025,光是 reasoning 預設就多加了 $0.00018,超過整次代管呼叫的兩倍。只做快取卻不釘住 effort,省下來的錢就會從另一邊漏回去。

各種工作負載的建議做法

現在整個決策脈絡已經清楚了,以下是我們給閘道客戶的建議:

工作負載型態建議
聊天,單一大型穩定系統提示維持 implicit;自動斷點已涵蓋,且折扣兩種方式皆為 90%
具分層前綴的代理(系統 + 工具 + 檔案)explicit 模式,標記每個穩定層,易變內容置於最後;變更的層僅從其標記處重新計費
具重新排序脈絡的 RAG在擷取區塊之上的層做明確標記;重新排序時僅需負擔尾端成本
定期排程與零星作業,間隔 10-30 分鐘30m TTL 下限正好針對這類情境(5.x 與 Claude 的 5m 預設永遠命中不了);在我們的探測中,帶鍵重新讀取在 15 分鐘時可完整命中
短提示(<1,024 個權杖)快取不適用;別花力氣標記

與形狀無關:為每個租戶或工作階段傳送穩定的 prompt_cache_key(文件將此金鑰作為可靠比對的基礎),讓每個標記層都維持在 1,024 個權杖的下限之上,並監控 cached_tokens,因為靜默失誤是存在的。請記得快取是以每個模型為單位的:跨層級的 A/B 測試會在每一側各自從零重新暖身。並在同一個提交中設定另一個槓桿:依照上方的矩陣固定 reasoning_effort,除非評估另有指示,否則設為 none

至於層級選擇,90% 折扣對成本的影響比選哪個層級還大。一個工作負載重播 3,000-token 的前綴,在暖的 Luna 流量上每千次呼叫這段前綴約付 $0.30,在暖的 Sol 上是 $1.50;層級之間在已快取部分的價差,比在 output token 上的價差還小。所以按 output 品質與價格挑層級,再讓快取把 input 端拉平。從 gpt-5.5 過來的話,Sol 是同一張價目表下的無痛升級,快取讀取便宜 5 倍,而且你能掌控何時命中;如果 eval 顯示較小的層級撐得住,就降到 Terra 或 Luna,價目表在此之上還會再砍半或除以五。

tokenizer 沒有變

我們的 24 個樣本(一段九種語言的敘事文、其中六種語言的技術版與新聞版、一個 Python 函式,以及一個 JSON tool-call),在所有完成的比較中,GPT-5.5、Sol、Terra、Luna 算出來的 token 數完全相同。以 5.5 校準的 token 預算與快取下限估算可以原封不動沿用;跨語言的行為在我們的 tokenizer 分語言分析文章裡,直接適用於 5.6。

結論

  • 快取折扣從 50% 加深到 90%,加上 30 分鐘的保證 TTL,才是這次發布真正的降價;層級價格是頭條,但快取條款對實際帳單的影響更大。
  • 分層 prompt 就採用 explicit breakpoint:部分重用是實測出來的,不是理論值,而且這套心智模型跟 Claude 一對一互通。
  • 守住 1,024-token 下限,送 prompt_cache_key,並監控 cached_tokens;默默沒命中與默默完全沒快取這兩種情況都存在。
  • 明確送出 reasoning_effort,預設用 none:在我們的矩陣裡,不管理的預設值計費多出 1.5 倍,單一任務上最高到 3.5 倍,換來的答案卻一模一樣。
  • xhigh 是實際能達到的上限(透過 chat completions 的 max 是 400s);不需要相對 5.5 重新校準 tokenizer。

常見問題

GPT-5.6 是否像 Claude 一樣支援顯式 prompt caching? 支援。用 prompt_cache_options: {"mode": "explicit"} 搭配內容區塊上的 prompt_cache_breakpoint 標記,每個請求最多可寫入四次(隱式模式下為三次,因為自動 breakpoint 會佔用一個名額)。透過 OpenAI 相容的閘道實測,一段標記過的 3,012 個 token 前綴在第一次呼叫時寫入,第二次呼叫時以快取價完整讀回。

GPT-5.6 上快取輸入的費用是多少? 輸入費率的 10%,三個級別都是如此:Luna 每百萬 token 0.10 美元、Terra 0.25 美元、Sol 0.50 美元。GPT-5.x 對快取 token 是按輸入的 50% 計費,所以 5.6 的快取 token 費率低了 5 倍。

GPT-5.6 的快取比 GPT-5.5 好嗎? 就折扣幅度和控制力來說,是的:快取費率 10% 對比 50%,四個顯式 breakpoint 對比只有無法觸發也無法除錯的自動偵測,以及帶 key 時保證的 30 分鐘下限對比盡力而為的 5 到 10 分鐘。5.5 唯一還保有的優勢是可選的 24 小時保留級別,而 5.6 取消了這一項。

GPT-5.6 快取可以存活多久? 文件保證至少 30 分鐘(ttl: "30m" 是唯一可接受的值),可能更久;此選項取代了已棄用的 prompt_cache_retention,包括舊有的 24 小時延長層級。在我們的測試中,於寫入後 15 分鐘進行的鍵值重讀完全命中;我們並未測試到完整的 30 分鐘。

我需要 prompt_cache_key 嗎? 請務必傳送它:文件將每個租戶或工作階段的穩定金鑰作為在 5.6 上進行可靠比對的基礎,每個金鑰的軟性限制約為每分鐘 15 個請求。加入它不需任何成本,而將它與 cached_tokens 監控搭配,正是你驗證折扣是否真正生效的方式。

reasoning_effort 對 GPT-5.6 費用的影響有多大? 在我們的 50 次呼叫矩陣中(四種任務型態、六種設定、涵蓋 Terra 和 Luna),每種設定都給出正確答案,而完全不帶這個參數整體上會比 none 多花 1.5 倍的費用,在算術任務上最高達 3.5 倍。在瑣碎型態上(分類、抽取),沒有任何設定花費 reasoning token。把參數固定為 none,只在 eval 上有需要時才往上調。

GPT-5.6 Sol 支援最高的 reasoning effort 嗎? 透過 chat completions 不支援。帶 reasoning_effort: "max" 的請求會回傳 400,列出 nonexhigh 的可用值,Sol 和 Terra 都一樣。

API 工作負載該用哪個 GPT-5.6 級別? Sol 是 gpt-5.5 的等價價格接班者(相同的 $5/$30 費率表,快取讀取便宜 5 倍);Terra 和 Luna 是縮減版級別,價格分別是其一半和五分之一。一旦你的前綴穩定且帶 key,90% 的快取折扣就會把輸入這一側的費用壓平,所以在你的輸出品質 eval 允許的範圍內盡量往下降,讓級別去決定輸出價格。

← 返回部落格