개요

Synthorai는 멀티 프로토콜 API를 통해 세계 최고의 AI 모델에 대한 액세스를 통합하는 엔터프라이즈급 LLM 프록시입니다. 선호하는 SDK(OpenAI, Anthropic)를 그대로 사용하면서 하나의 key로 30개 이상의 공급자를 호출할 수 있습니다.

✓

Synthorai는 동일한 base URL에서 세 가지 입력 프로토콜을 지원합니다: OpenAI Chat Completions (/v1/chat/completions), OpenAI Responses (/v1/responses), 및 Anthropic Messages (/v1/messages). 기존 OpenAI 또는 Anthropic SDK를 게이트웨이로 가리키기만 하면 됩니다. base URL과 key 외에 코드 변경이 필요 없습니다. baseURL 및 key.

Synthorai란?

Synthorai는 OpenAI, Anthropic, Google, Alibaba Qwen, DeepSeek 및 수십 개의 다른 공급자의 모델에 대한 통합 진입점을 제공합니다. 라우팅된 모든 모델은 OpenAI 호환 다음 엔드포인트를 통해 액세스할 수 있습니다: /v1/chat/completions 엔드포인트를 통해 또는 공급자의 네이티브 프로토콜을 사용하여 액세스할 수 있습니다. Claude / Bedrock 워크플로에는 Anthropic Messages를, 도구 사용 및 추론에는 OpenAI Responses를 사용합니다. 하나의 key로 모든 경로를 포괄하며 자동 라우팅, 속도 제한, 할당량 관리, 감사 로깅이 기본 제공됩니다.

데이터 레지던시, 규정 준수 및 액세스 제어가 필요한 엔터프라이즈 배포를 위해 설계되었습니다.

주요 기능

🔑

단일 API Key

하나의 key로 모든 모델과 프로토콜에 사용. 사용자 또는 팀별 세분화된 할당량 관리.

⚡

멀티 프로토콜 API

OpenAI SDK(/v1/chat/completions, /v1/responses) 또는 Anthropic SDK(/v1/messages) — 재작성 불필요.

🛡️

Guardrails

사용자 지정 규칙 엔진을 통한 입력/출력 필터링.

📊

분석

모델별, 사용자별 요청 및 token 사용량 대시보드.

🌏

글로벌 모델

OpenAI, Anthropic, Google, Qwen, DeepSeek, GLM, Kimi, MiniMax 등.

base URL

https://synthorai.io

처음이신가요? 먼저 Quickstart을(를) 확인한 다음, model price comparison에서 라우팅 가능한 각 모델의 토큰당 가격을 살펴보거나, LLM API cost calculator(으)로 워크로드 지출을 예측해 보세요.