使用状況分析
コストの内訳を、モデル別、キー別、時系列で確認できます。いつの間にか最大の支出項目になっていた prompt を見つけるのに便利です。
コンソールのサイドバー(その機能がアカウントに適用されると表示されます): Activity 開く ↗
手順
- Activity を開きます。デフォルトではワークスペース全体の直近の使用状況が表示されます。
- タブを切り替えます:概要は Overview、リクエスト数と token 量は Usage、コストは Spend。Performance(レイテンシとエラー)は、ワークスペースで有効になっている場合に表示されます。
- モデルで絞り込み、表示価格から想像されるコストではなく、実際にかかっているコストを比較します。
- 日付範囲を狭めて、特定のデプロイやトラフィックの急増を切り出します。
制限と注意点
- ほとんどのパネルは1時間単位の集計を読み込むため、現在の時間帯はその時間が締まるまで不完全に見えます。キー単位のドリルダウンは生のレコードを参照するため、1時間単位に丸められません。
- モデルフィルターはモデルとそのバリアントをまとめて扱うため、同一ファミリーは複数行ではなく1行として表示されます。