网关背后的团队

Synthorai 是多模态 AI 网关：一个 API 接入大模型、图像生成和语音。之所以做它，是因为我们待过的每家公司都在重复造同一套轮子：供应商故障切换、用量计量、合规评审。这一次我们只造一遍，直接把它做成产品。

我们做什么

一个 OpenAI 兼容端点，可以调用各大供应商的 117+ 个模型，覆盖聊天、图像和语音。背后有提示词缓存亲和（让缓存折扣真正生效）、经得起崩溃的用量计费，以及可以按模型设规则的 BYOK 密钥库。

不收平台费，BYOK 也不加价。我们的收入来自你充值并使用网关，而不是额外叠加的手续费。

我们是一支小型工程团队，成员有安全与合规背景。做 Synthorai 之前，我们做了多年的密钥管理、审计日志和数据治理系统。

从 GPT-3 开始，我们就在生产环境里跑 AI 负载，技术栈的这一层正是我们最熟悉的：token 怎么计量，各家供应商的缓存表现有什么不同，网关出故障时怎样才不会把计费带坏。

这些经验决定了产品的默认设置：全程加密，处处最小权限，不留存提示词；计费正确是硬性要求，而不是一个功能点。

难做的部分是怎么实现的，我们都会写出来，出故障时的情况也不回避：请求中途中断时计费怎么保持正确，我们怎么审计自己的缓存计费，提示词缓存在不同供应商之间怎么对应。凡是可以验证的说法，都附上依据：工程博客 →

默认只能调用那些供应商不拿你的数据做训练的模型；其他模型需要你明确开启，开关按工作空间强制生效。我们只保存计费所需的请求元数据，提示词和响应都不保存。推理运行在敏感司法辖区之外的基础设施上。