BYOK 보관함

직접 보유한 제공사 키를 사용합니다. 게이트웨이가 여러분의 자격 증명으로 제공사를 호출하므로, 사용량은 Synthorai 잔액이 아니라 제공사 계정에 청구됩니다. 라우팅, 로깅, 통합 API는 그대로 유지됩니다.

콘솔 사이드바 위치(해당 기능이 계정에 적용되면 표시됩니다): BYOK Keys 열기 ↗

진행 단계

  1. BYOK Keys를 열고, 계정을 보유한 제공사의 키를 추가합니다.
  2. 제공사 키를 붙여 넣습니다. 저장 시 암호화되며, 저장 후에는 브라우저로 다시 반환되지 않습니다.
  3. 선택 사항으로, 모델 id를 쉼표로 구분해 나열하면 특정 모델에만 적용할 수 있습니다. 비워 두면 해당 제공사가 제공하는 모든 모델에 적용됩니다.
  4. 요청을 한 번 보내고, 제공사 자체 대시보드에서 사용량이 그쪽에 기록되었는지 확인하세요.

제한과 유의 사항

  • 저장한 뒤에는 키가 다시 표시되지 않습니다. 보관함은 키를 암호화해 저장하고, 제공사를 호출하는 전송 과정에서만 복호화합니다.
  • 제공사 측 할당량이 여러분의 것이 됩니다. 두 가지 유의 사항이 있습니다. 게이트웨이는 요청이 BYOK인지 판단하기 전에 자체 모델별 속도 제한을 적용하며, BYOK 사용량도 소유자가 설정한 멤버 일일 한도에 그대로 포함됩니다.
  • BYOK 키는 워크스페이스 소유자만 추가, 교체, 삭제할 수 있습니다. 삭제하면 해당 모델들은 바로 다음 요청부터 공용 자격 증명으로 되돌아갑니다.
  • 커스텀 엔드포인트로 직접 운영하는 서비스나 제공업체 요금제를 연결할 수 있습니다. OpenAI Chat Completions, OpenAI Responses, Anthropic Messages API 중 하나와 호환되면 됩니다. 커스텀 엔드포인트에서 이름, API 유형, 기본 URL, 키, 맡을 모델을 등록하세요. 모델을 지정하지 않으면 모든 모델을 맡습니다. 요청의 모델 이름은 그대로이며, 엔드포인트에도 그대로 전달됩니다. 이 요청에는 크레딧이 차감되지 않으며, 다른 요청과 마찬가지로 로그에 표시됩니다. 엔드포인트가 실패하면 Synthorai가 대신 응답할지는 Synthorai 크레딧으로 자동 폴백에서 정해집니다. 주소는 https여야 하며 공용 인터넷에서 접근할 수 있어야 합니다. 엔드포인트가 모델 목록을 제공하지 않으면 연결 테스트는 입력한 첫 번째 모델로 짧은 요청을 한 번 보냅니다. 비용은 본인 계정에 청구되며, 이 요청은 로그에 연결 테스트로 표시됩니다.