BYOK 保管庫

自分のプロバイダーキーを持ち込めます。ゲートウェイはあなたの資格情報でそのプロバイダーを呼び出すため、使用量は Synthorai の残高ではなくプロバイダーのアカウントに課金されます。ルーティング、ログ、統一 API はそのままです。

コンソールのサイドバー(その機能がアカウントに適用されると表示されます): BYOK Keys 開く ↗

手順

BYOK Keys を開き、アカウントを持っているプロバイダーのキーを追加します。
プロバイダーキーを貼り付けます。保存時に暗号化され、保存後はブラウザーに返されません。
必要に応じて、モデル ID をカンマ区切りで列挙し、特定のモデルに限定できます。空のままにすると、そのプロバイダーが提供する全モデルが対象になります。
リクエストを送信し、プロバイダー自身のダッシュボードで使用量がそちらに記録されたことを確認します。

制限と注意点

保存後にキーが再表示されることはありません。保管庫はキーを暗号化して保存し、プロバイダーを呼び出す通信の途中でのみ復号します。
プロバイダー側のクォータがそのまま自分のものになります。注意点は2つあります。ゲートウェイは、そのリクエストが BYOK かどうかを判定する前に独自のモデル単位のレート制限を適用します。また、所有者がメンバーの日次上限を設定している場合、BYOK の使用量もその上限に計上されます。
BYOK キーの追加、ローテーション、削除ができるのはワークスペースの所有者だけです。削除すると、対象のモデルは次のリクエストから共有の資格情報にフォールバックします。
カスタムエンドポイントでは、自前で運用しているサービスやプロバイダーのプランを接続できます。OpenAI Chat Completions、OpenAI Responses、Anthropic Messages のいずれかの API に対応していれば使えます。カスタムエンドポイントで名前、API の種類、ベース URL、キー、引き受けるモデルを登録します。モデルを指定しなければ、すべてのモデルを引き受けます。リクエストのモデル名はそのままで、エンドポイントにもそのまま送られます。これらのリクエストにクレジットは消費されず、他のリクエストと同じくログに表示されます。エンドポイントが失敗したときに Synthorai が代わりに応答するかは、Synthorai クレジットへの自動フォールバックで決まります。アドレスは https で、インターネットから到達できる必要があります。エンドポイントがモデル一覧を返さない場合、接続をテストは入力した最初のモデルに短いリクエストを 1 回送ります。料金はご自身のアカウントに発生し、このリクエストはログに接続テストとして表示されます。