게이트웨이를 만드는 팀

Synthorai는 멀티모달 AI 게이트웨이입니다. 하나의 API로 LLM, 이미지 생성, 음성에 연결합니다. 이전에 몸담았던 회사마다 같은 배관을 다시 만들고 있었습니다. 프로바이더 페일오버, 사용량 계량, 컴플라이언스 검토였습니다. 이번에는 그것을 한 번만 만들되, 제품 자체로 만들었습니다.

우리가 만드는 것

주요 프로바이더의 117+ 모델(챗, 이미지, 음성)로 라우팅되는 OpenAI 호환 단일 엔드포인트입니다. 그 뒤에서는 캐싱 할인이 실제로 적용되게 하는 프롬프트 캐시 어피니티, 크래시를 전제로 설계한 종량 과금, 모델 단위 규칙을 갖춘 BYOK 볼트가 동작합니다.

플랫폼 수수료가 없고 BYOK 추가 요금도 없습니다. 수익은 충전하고 사용하는 데서 나오며, 위에 얹은 수수료에서 나오지 않습니다.

우리는 누구인가

우리는 보안과 컴플라이언스 경험을 가진 작은 엔지니어링 팀입니다. Synthorai 이전에는 키 관리, 감사 추적, 데이터 거버넌스 시스템을 수년간 만들었습니다.

GPT-3 때부터 프로덕션에서 AI 워크로드를 운영해 왔고, 이 계층이 우리가 가장 잘 아는 부분입니다. 토큰이 어떻게 계량되는지, 캐시가 프로바이더 간에 어떻게 동작하는지, 게이트웨이가 과금을 망가뜨리지 않고 어떻게 실패해야 하는지입니다.

그 경험이 기본값을 정했습니다. 모든 곳에서의 암호화와 최소 권한, 프롬프트 미보관, 그리고 과금 정확성을 기능이 아니라 필수 요건으로 다루는 것입니다.

우리가 일하는 방식

어려운 부분이 어떻게 동작하는지 실패 모드까지 포함해 정리합니다. 요청이 스트림 도중 끊겨도 과금이 정확하게 유지되는 방법, 우리 캐시 회계를 스스로 감사하는 방법, 프롬프트 캐싱이 프로바이더 간에 대응되는 방식입니다. 검증할 수 있는 주장에는 근거를 함께 답니다. 엔지니어링 블로그 →

당신의 데이터는 우리의 상품이 아닙니다

기본적으로 당신의 데이터로 학습하지 않는 프로바이더의 모델에만 연결할 수 있습니다. 그 외에는 워크스페이스 단위로 강제되는 명시적 옵트인이 필요합니다. 과금에 필요한 요청 메타데이터만 저장하며 프롬프트도 응답도 저장하지 않습니다. 추론은 민감한 관할권 밖의 인프라에서 실행됩니다.

회사 정보

Synthorai Technology Inc. · Mountain View, CA 94043 · 2026년 설립
support@synthorai.ai · dev.to/synthorai · x.com/synthoraihq