閘道背後的團隊

Synthorai 是一個多模態 AI 閘道:一個 API 接入大模型、圖像生成與語音。我們做它,是因為在待過的每家公司,同一套底層管線都要重造一遍:供應商故障轉移、用量計量、合規審查。這一次我們只做一遍,並把它做成產品本身。

我們做什麼

一個 OpenAI 相容端點,路由到各大供應商的 117+ 個模型,涵蓋對話、圖像和語音。背後是提示快取親和性(讓快取折扣真正生效)、為當機情境設計的按量計費,以及支援按模型設定規則的 BYOK 保管庫。

沒有平台費,也沒有 BYOK 加價。我們的收入來自你儲值並使用閘道,而不是疊加在上面的手續費。

我們是一支不大的工程團隊,成員有安全與合規背景。在做 Synthorai 之前,我們做了多年金鑰管理、稽核軌跡和資料治理系統。

從 GPT-3 起我們就在生產環境運行 AI 負載,這一層也是我們最熟的部分:token 如何計量、快取在不同供應商之間如何表現,以及閘道出狀況時如何不把計費一起搞壞。

這些經驗決定了產品的預設值:處處加密與最小權限、不留存提示詞,並把計費正確性當作硬性要求,而不是一項功能。

我們會把難點的原理寫出來,包括失敗模式:請求中途中斷時計費如何保持正確、我們如何稽核自己的快取記帳、提示快取如何在不同供應商之間對應。凡是能驗證的說法,我們都附上依據: 工程部落格 →

預設情況下,你只能呼叫那些不拿你的資料做訓練的供應商模型;其餘都需要顯式選擇加入,並按工作空間強制執行。我們只為計費保存請求中繼資料,不保存提示詞,也不保存回應。推理運行在敏感司法轄區之外的基礎設施上。

Synthorai Technology Inc. · Mountain View, CA 94043 · 成立於 2026 年
support@synthorai.ai · dev.to/synthorai · x.com/synthoraihq