사용량 및 과금

할당량 및 사용 통계는 Console에서 그리고 각 요청의 응답 페이로드를 통해 확인할 수 있습니다.

응답 내 사용량

모든 비스트리밍 응답에는 다음이 포함됩니다 usage 객체:

"usage": {
  "prompt_tokens": 120,
  "completion_tokens": 45,
  "total_tokens": 165
}

할당량은 token 단위로 측정됩니다. 관리자는 다음 위치에서 사용자별 할당량을 설정할 수 있습니다 Console → Members. 사용자는 다음 위치에서 남은 할당량을 모니터링할 수 있습니다 Console → Limits & Billing.

ℹ

스트리밍 응답에는 중간 chunk에 usage 필드가 포함되지 않습니다. 최종 합성 usage 요약은 다음 직전의 마지막 chunk에서 제공됩니다 data: [DONE].

토큰 수를 예산으로 바꾸시나요? 월간 사용량을 LLM API cost calculator에 입력하거나, model price comparison에서 토큰당 요율을 확인하세요.