网关背后的团队

Synthorai 是一个多模态 AI 网关:一个 API 接入大模型、图像生成与语音。我们做它,是因为在待过的每家公司,同一套底层管道都要重造一遍:供应商故障切换、用量计量、合规评审。这一次我们只做一遍,并把它做成产品本身。

我们做什么

一个 OpenAI 兼容端点,路由到各大供应商的 117+ 个模型,覆盖对话、图像和语音。背后是提示缓存亲和性(让缓存折扣真正生效)、为崩溃场景设计的按量计费,以及支持按模型设定规则的 BYOK 保管库。

没有平台费,也没有 BYOK 加价。我们的收入来自你充值并使用网关,而不是叠加在上面的手续费。

我们是一支不大的工程团队,成员有安全与合规背景。在做 Synthorai 之前,我们做了多年密钥管理、审计日志和数据治理系统。

从 GPT-3 起我们就在生产环境运行 AI 负载,这一层也是我们最熟的部分:token 如何计量、缓存在不同供应商之间如何表现,以及网关出故障时如何不把计费一起搞坏。

这些经验决定了产品的默认设置:处处加密与最小权限、不留存提示词,并把计费正确性当作硬性要求,而不是一项功能。

我们会把难点的原理写出来,包括失败模式:请求中途中断时计费如何保持正确、我们如何审计自己的缓存记账、提示缓存如何在不同供应商之间映射。凡是能验证的说法,我们都附上依据: 工程博客 →

默认情况下,你只能调用那些不拿你的数据做训练的供应商模型;其余都需要显式选择加入,并按工作空间强制执行。我们只为计费保存请求元数据,不保存提示词,也不保存响应。推理运行在敏感司法辖区之外的基础设施上。

Synthorai Technology Inc. · Mountain View, CA 94043 · 成立于 2026 年
support@synthorai.ai · dev.to/synthorai · x.com/synthoraihq