新帳號 免費註冊,送 10 次呼叫,最高 $1,免綁卡。

管好花費,守住資料,留下證據。

預算、每日上限和簽核管好花費;護欄和資料分級守住資料;主控台的每一次變更都記進防竄改的稽核日誌,留下證據。可以用託管的專屬執行個體,也可以部署在你自己的網路裡。

簽核 有三筆申請在等你處理。團隊預算每天 $300.00。
  • Emily Carter 每日上限 $20.00 → $50.00 · 季度合約擷取 之前申請過兩次,都核准了 · 團隊還剩 $248.00 / $300.00
    4 小時後上呈 退回 核准
  • Jason Miller 使用 claude-opus-5 · 30 天 第一次申請 · 昨天花了 $4.10,每日上限 $20.00
    退回 核准
  • Sarah Brooks 每日上限 $20.00 → $400.00 超過團隊每天 $300.00 的預算,核准後會轉給管理員
    轉給管理員 退回 核准

看清楚公司把 AI 用在哪裡

閘道依用途替每筆呼叫分類:程式開發、分析、寫作、查詢、休閒或其他。沒有人需要填表。花費依團隊和用途列出,以官網價計算,所以財務和工程看到的是同一個數字。

  • 日誌:每筆呼叫一列。點開就能看到路由決策、護欄命中和成本。
  • 有留存內容時,沒有限時的審閱授權就讀不到提示詞,每一次讀取都記進稽核日誌。
  • 每筆請求紀錄都能匯出到 S3 或 OTLP 收集器。
團隊 × 用途 本月,依官網價
團隊 用途分布 已用 / 預算
研發 程式開發 72% $4,812 / $8,000
業務 寫作 46% $3,960 / $4,500
客服 寫作 38% $3,120 / $6,000

看得到

依團隊、模型和金鑰看花費,再依用途拆開,附月底預測和快取省下的金額。

訂得了政策

休閒超過 2% 通知團隊主管。最高層級超過 30% 需簽核。預算用完就封鎖。

照用途路由

用 model=auto,查詢送到較便宜的層級,長篇分析送到較大的模型。每個決策都記下原因。

企業版還做什麼。

同一個閘道的另外五個部分。

所有模型前面只有一個 base URL

大家只需要改 base URL 和金鑰。後面接的是我們目錄裡的模型、走你自己金鑰的供應商,以及你網路內的模型。閘道會監看每個上游的健康狀況,出問題就容錯移轉到另一個上游。

  • 目錄列出每個模型的價格,以及每個上游怎麼處理你的資料:不留存、可能留存,或留在網路內。
  • 依團隊設定模型存取:允許、需簽核或封鎖。第一條符合的規則生效。
  • 把一個團隊切到不留存,可能留存資料的上游就會對這個團隊關閉。私有模型照常可用。
  • BYOK 包含在內;個人供應商金鑰可以允許,也可以整個執行個體一起關掉。
團隊 × 模型 格子由規則算出來;要改就改規則,不是改格子
團隊 claude-opus-5gpt-5.4deepseek-v4.1
客服 封鎖允許允許
研發 需簽核允許允許
業務 需簽核允許允許

帳單出來之前就先把關的預算

組織有總上限,團隊有總額,用途有佔比,個人有每日上限。任何一項超過了,閘道都會回報並處理。

  • 警示線設在總上限的 50%、80% 和 95%。用完之後,新請求可以用 402 拒絕,也可以照常服務但加上標記,由你決定。
  • 用途政策:通知團隊主管、需簽核、改送較便宜的層級,或封鎖。
  • 臨時調高會自動恢復。調高上限的申請先送到團隊主管,24 小時沒人決定就轉給管理員。每一筆都由人決定。
  • 成本中心和給財務的月結對帳單,未分攤的花費依金鑰列出。
用途政策 每筆請求轉送前都會檢查
  • 休閒 佔比超過 2% · 所有團隊 通知主管
  • 分析 最高層級超過 30% · 研發 需簽核
  • 查詢 佔比超過 10% · 客服 改走較低層級
  • 任何用途 預算用完 · 所有團隊 封鎖

有裁判模型的護欄,加上工具登記表

規則包檢查請求和回應:提示詞注入、個人資料、機密資訊與金鑰、禁止主題、你自己的詞表。先用只記錄模式起步,看它本來會怎麼處理,再正式執行。

  • 四種動作:攔截、遮罩、引導或只記錄。引導會告訴當事人該怎麼做,而不更動模型收到的內容。
  • 裁判模型覆核每一筆超過信心門檻的命中,文字會先遮罩再送過去。裁判模型太慢或無法使用時,該筆請求照常放行、留下紀錄,並發出高嚴重性警示。
  • 資料分級:四個等級,加上你自己的規則。每個等級規定能送到哪些模型。
  • MCP 伺服器和 skill 要先登記;未登記的會被記錄或封鎖。警示送到 Slack、電子郵件、飛書或 PagerDuty;停用一把金鑰之前,會先看到哪些東西會受影響。
規則包 近 7 天 · 正式執行
規則包 方向 動作 命中
提示詞注入 進 block 286
個人資料 進 · 出 mask 912
機密資訊與金鑰 進 block 248
禁止主題 進 detect 6

用 model=auto,由閘道挑模型

用 model=auto,閘道讀過請求後挑一個層級和一個模型,並記下原因。base URL、SDK 和官網價都不變,所以路由政策改了,程式不用跟著改。

  • 從關鍵字、結構、長度和工具判定用途。本機規則在執行個體內做決定,資料不會離開執行個體;也可以指向你自己的用途判定端點。
  • 用途對應到層級。長請求或會用工具的請求會分到更高的層級。
  • 挑當下第一個可用的模型。同一段對話裡,層級只會往上調。
  • 路由頁會顯示 auto 相較於全部送頂級層級省了多少。
# 隨插即用,只換 base URL 和金鑰。
base_url="https://api.openai.com/v1"
base_url="https://synthorai.io/v1"
# model="auto"

身分來自你的 IdP,稽核日誌可供驗證

人員透過 SSO 登入,帳號經 SCIM 佈建,角色來自 IdP 群組。主控台裡的每一次變更都記進以雜湊鏈串起的稽核日誌。

  • 帳號綁定 IdP subject,而不是 email:長得像的位址無法繼承別人的每日上限或金鑰。
  • 在 IdP 停用後五分鐘內金鑰失效,進行中的請求也一樣。
  • 稽核日誌逐欄位記下主控台的每一次變更,也記下每一次讀取提示詞,從不記請求內容。可匯出成 JSONL,或串流到你的 SIEM。永久保留。
  • 請求日誌和內容有各自的留存設定:關閉、遮罩後保存,或為了除錯完整保存。
稽核日誌 鏈完整 · 3 分鐘前驗證
  • Emily Carter · 管理員 調整上游權重 Azure eastus 100 → 50
  • SCIM 離職處理,金鑰已撤銷 Mark Davis · 3 把金鑰
  • Jason Miller · 團隊主管 核准調高上限 Sarah Brooks · 每日 $10 → $15
  • 系統 裁判模型容錯移轉 裁判模型 → 本機規則

資料會去哪裡。

託管專屬執行個體

你自己的執行個體,由我們維運。預設零留存,或依你設定的留存政策。可鎖定在美國、歐盟或亞太區域。

私有部署

整個產品,閘道和主控台,放進你的 VPC 或機房。請求只會送往你允許的供應商。

路由分類器、裁判模型和提示詞標記器的端點由你指定。這幾個端點,閘道只接受 HTTPS 或私有位址,所以提示詞不會未加密就經過公開網路。

對應哪些法規與標準。

要求 對應功能
EU AI Act 第 26 條:高風險 AI 系統的部署者保留系統自動產生的日誌至少六個月,並把人工監督交給有相應權限的人 稽核事件永久保留,請求日誌依你設定的期限留存;簽核和護欄規則讓人或規則直接在請求上把關
ISO/IEC 42001:有清單、角色和持續監控的 AI 管理系統 應用程式登記表、團隊與角色、每筆請求的紀錄和用途標籤
NIST AI RMF:治理、對應、量測、管理 政策規則、資料分級、依團隊和用途的用量分析、簽核

這裡列的是各框架要求的控制項,以及提供每一項的功能。這些功能協助你完成評估,本身不是認證。

聯絡業務。

告訴我們團隊規模、在用的供應商,以及需要部署在哪裡。DPA 可依需求提供。

聯絡業務