网关背后的团队

Synthorai 是自带治理的 AI 网关，可以用 SaaS，可以用托管的企业版实例，也可以部署在你自己的网络里。之所以做它，是因为我们待过的每家公司都在重复造同一套轮子：供应商故障切换、用量计量、合规评审。这一次我们只造一遍，直接把它做成产品。

我们做什么

一个 OpenAI 兼容端点，接入各大供应商的模型，覆盖聊天、图像、语音、视频和实时语音。背后有提示词缓存亲和（让缓存折扣能生效）、经得起崩溃的用量计费，以及可以按模型设规则的 BYOK 密钥库。

SaaS 不收平台费，BYOK 也不加价，模型用量按供应商官网价计费。我们收费的是企业版和私有化部署的平台。

我们是一支小型工程团队，成员有安全与合规背景。做 Synthorai 之前，我们做了多年的密钥管理、审计日志和数据治理系统。

从 GPT-3 开始，我们就在生产环境里跑 AI 负载，技术栈的这一层正是我们最熟悉的：token 怎么计量，各家供应商的缓存表现有什么不同，网关出故障时怎样才不会把计费带坏。

这些经验决定了产品的默认设置：全程加密，处处最小权限，不留存提示词；计费正确是硬性要求，而不是一个功能点。

难做的部分是怎么实现的，我们都会写出来，出故障时的情况也不回避：请求中途中断时计费怎么保持正确，我们怎么审计自己的缓存计费，提示词缓存在不同供应商之间怎么对应。凡是可以验证的说法，都附上依据：工程博客 →

默认只能调用那些供应商不拿你的数据做训练的模型。其他模型需要你明确开启，开关按工作空间强制生效。请求和响应的正文默认只转发、不存储，我们只保留计费所需的请求元数据。每个工作空间可以固定在美国、欧盟或亚太区域。