用量与计费
配额和用量统计可在 Console 中查看,也可通过每个请求的响应负载查看。
响应中的用量
每个非流式响应都包含一个 usage 对象:
"usage": {
"prompt_tokens": 120,
"completion_tokens": 45,
"total_tokens": 165
} 配额
配额以 token 为单位计量。管理员可从以下位置设置每个用户的配额 Console → Members. 用户可在以下位置监控其剩余配额 Console → Limits & Billing.
ℹ
流式响应在中间 chunk 中不包含 usage 字段。在以下内容之前的最后一个 chunk 中提供最终的合成 usage 摘要 data: [DONE].
想把 token 数量变成预算?把每月用量输入 LLM API cost calculator,或在 model price comparison 里查看每个 token 的价格。