用量與計費

配額和用量統計可在 Console 中查看，也可透過每個請求的回應負載查看。

回應中的用量

每個非串流回應都包含一個 usage 物件：

"usage": {
  "prompt_tokens": 120,
  "completion_tokens": 45,
  "total_tokens": 165
}

配額以 token 為單位計量。管理員可從以下位置設定每個使用者的配額 Console → Members. 使用者可在以下位置監控其剩餘配額 Console → Limits & Billing.

ℹ

串流回應在中間 chunk 中不包含 usage 欄位。在以下內容之前的最後一個 chunk 中提供最終的合成 usage 摘要 data: [DONE].

想把 token 數量變成預算?把每月用量輸入 LLM API cost calculator,或在 model price comparison 裡查看每個 token 的價格。