Gemini BYOK 不會停用 Google 請求儲存
目錄
Gemini BYOK(bring your own key,自備金鑰)決定閘道使用哪組客戶憑證,不會停用請求儲存。本文測試的閘道路徑,需要在 Synthorai 控制台設定 BYOK,並在對應的 Google 專案設定儲存政策。我們發現,Google 的 Chat 相容 API 會拒絕最上層的 store=false;原生 Gemini 請求轉換成 Chat 格式時,這個欄位則會被省略。
TL;DR
- Gemini 是模型家族。Gemini Developer API 和 Vertex AI 是呼叫這些模型的兩條獨立 Google 服務路徑。
- Synthorai 的標準 Google BYOK 設定使用 Vertex;若要使用 Developer API 的 Chat 相容介面,可以另外設定 Custom 端點。
- 閘道憑證和 fallback 在 Synthorai 控制台設定;Developer API 的專案記錄功能則在 Google AI Studio 設定。
- 在 6 次同步閘道測試中,Chat 請求明確帶入儲存布林值時,都收到 400;原生格式轉為 Chat 時則省略了布林值,成功的請求也都出現在 AI Studio 記錄中。
BYOK、Vertex 和 Developer API 有什麼關係?
BYOK 決定閘道使用誰的憑證。Vertex AI 和 Gemini Developer API 則代表接收請求的 Google 服務。模型名稱包含 Gemini,不代表能從中判斷使用的是哪個服務,也無法判斷其儲存政策。
| Google 服務 | Google API 主機 | Synthorai 設定 | 需要檢查的儲存控制項 |
|---|---|---|---|
| Vertex AI 上的 Gemini | aiplatform.googleapis.com,包含區域主機 | 標示為 Vertex 的標準 Google BYOK 設定,搭配獲准使用 Vertex 的憑證 | 所選 Google Cloud 專案中,該服務的記錄與保留控制項 |
| Gemini Developer API | generativelanguage.googleapis.com | 獨立的 Custom 端點,使用 Google 的 OpenAI 相容介面和 Developer API 金鑰 | AI Studio 專案記錄功能;實際 API 介面支援的請求層級選項 |
Custom 端點是閘道設定,不是第三種 Google 服務。它指定目的地 URL、API 格式、客戶金鑰和模型清單。Google 的 Chat 相容介面是 Developer API 的其中一種介面;原生 GenerateContent 介面使用另一種請求格式。
標準 Vertex BYOK 設定沒有專供 Gemini Developer API 金鑰使用的欄位。Vertex 常用的 Google Cloud 服務帳戶,是具有專案權限的應用程式身分。Developer API 金鑰則對應不同的服務設定。請使用獲准存取所選目的地的憑證。
以下實驗針對 Developer API。Vertex 請參閱 Google 的個別服務資料保留控制項;Developer API 的記錄功能變更,不能用來推論 Vertex 的行為。
客戶應在哪裡設定 BYOK 和請求儲存?
先在 Synthorai 控制台設定客戶憑證,再到所選 Google 服務的控制台檢查儲存設定。這些設定控制的是請求路徑中的不同環節。
| 設定位置 | 設定內容 |
|---|---|
| Synthorai 控制台的 BYOK | 客戶憑證或 Custom 端點、要使用的模型、啟用狀態及 fallback 政策 |
| Google AI Studio 的 Developer API 專案 | GenerateContent 請求儲存與記錄保留 |
| Google Cloud 的 Vertex 專案 | 相關服務的記錄與保留控制項 |
依照 BYOK 指南設定閘道後,應用程式便可使用閘道 API 金鑰發出一般推論呼叫。Custom 端點的模型清單務必明確列出:依文件所述,空白清單會接管所有模型。模型名稱也必須是該端點接受的名稱,因為平台別名可能不同。
對於本次測試的 Developer API Custom 端點路徑,應透過 Google 專案設定確立應用程式記錄政策。Google 的文件說明了如何在 AI Studio 啟用與停用專案記錄功能。若要停用,請先用合成請求驗證結果,再使用敏感提示詞。我們的測試是在儲存功能啟用的狀態下進行,沒有測試停用後的行為。
Google 原生 GenerateContent API 仍可在請求層級控制儲存,受支援的 store 值會覆寫專案設定。對於本次測試的 Chat 相容路徑,閘道並未保證這個參數具備 Google 專屬相容性。以下結果說明了為什麼這項整合建議使用後端設定來控制儲存。
Gemini 請求儲存有什麼變更?
新建的付費 Gemini Developer API 專案,現在預設會儲存 Generate Content 請求,除非呼叫端或專案設定停用儲存。October 26 之前建立的專案會保留原有設定。在舊專案內建立新金鑰,並不等於建立新專案,也無法據此判斷適用哪個記錄預設值。Google 在 October 26 版本說明中記載了這項變更。
請求層級的 store 屬性優先於專案預設值。記錄功能指南涵蓋同步、串流和批次 Generate Content 呼叫,也包含透過 Google OpenAI 相容介面發出的呼叫。專案儲存的記錄預設保留 55 天,可設定為 7、14、28 或 55 天。將記錄存入資料集後,資料的生命週期會改變。
請求儲存也與訓練用途及安全記錄分開處理。Google 的付費服務條款表示,不會使用付費服務的提示詞與回應來改善產品,同時也說明了基於安全與資安目的的有限資料保留。關閉應用程式記錄,只處理其中一種特定的儲存機制。
Custom 端點能呼叫 Gemini Developer API 嗎?
在隔離環境中,Synthorai Custom 端點處理流程省略 store 時,成功透過 Google 的 Chat 相容端點呼叫了 Gemini 3.5 Flash-Lite。Google 回傳 HTTP 200 和 OK,閘道也向用戶端回傳 HTTP 200。明確帶入最上層 store=true 或 store=false 時,Google 則回傳 HTTP 400,表示請求無效。
隔離測試環境使用以下 Custom 端點設定值:
| 設定 | 值 |
|---|---|
| 端點 API 類型 | OpenAI Chat Completions(openai_chat) |
| Google 基底 URL | https://generativelanguage.googleapis.com/v1beta/openai |
| 憑證 | 現有的 Gemini Developer API 金鑰,以 Bearer 驗證方式傳送 |
| 模型清單 | 僅 gemini-3.5-flash-lite |
| 平台 fallback | 停用 |
記錄器確認,Chat 格式的用戶端請求會將明確指定的布林值保留在送出的 JSON 中。Google 的錯誤訊息是 Invalid JSON payload received. Unknown name "store": Cannot find field.。這個結果只針對 Chat 最上層欄位,不能據此認定所有可能的 Google 專屬擴充欄位都不受支援。
最終的同步測試矩陣顯示,用戶端請求格式會影響實際傳送的內容:
| 用戶端請求格式 | 輸入的 store | 送出的 Chat store | Google/用戶端 HTTP | AI Studio 記錄 |
|---|---|---|---|---|
| Chat | true | true | 400 / 400 | 未產生回應 |
| Chat | false | false | 400 / 400 | 未產生回應 |
| Chat | 省略 | 省略 | 200 / 200 | 可見 |
| 原生 Gemini | true | 省略 | 200 / 200 | 可見 |
| 原生 Gemini | false | 省略 | 200 / 200 | 可見 |
| 原生 Gemini | 省略 | 省略 | 200 / 200 | 可見 |
每一列代表向相同模型與付費專案發出的一次合成請求。呼叫完成後,AI Studio 未套用篩選的 All datasets 清單中,可以找到全部 4 個成功案例的完整標記,包括原生格式的 store=false 案例。該專案的 GenerateContent 儲存設定處於啟用狀態。原生格式轉成 Chat 時遺失了這個旗標,因此請求抵達 Google 時,已不再包含要求不儲存的設定,最後也出現在應用程式記錄中。

截圖中的輸入欄位內容遭到截斷;我們已在實際清單中逐一比對完整標記。前 3 列依序對應原生格式省略、false 和 true,接著是 Chat 省略的案例。這只能驗證這些案例在應用程式記錄中可見,不能驗證 Google 的所有資料保留機制。
我們於 November 1, 2026(UTC)使用既有付費專案及合成提示詞進行測試。隔離的閘道環境提供測試用使用者/工作區身分,以及暫時性的加密憑證儲存。本機記錄器透過 HTTPS,將送出的本文與客戶 Bearer 憑證原樣轉送給 Google。正式環境控制台設定、公用目的地 URL 檢查、用戶端驗證及串流,都不在本次測試範圍內。
store=false 在原生 Developer API 上有效嗎?
直接呼叫 Gemini 3.5 Flash-Lite 的原生 GenerateContent API 時,store=true 和 store=false 都被接受。這 2 次請求各自回傳 HTTP 200、回應 ID,以及 32 個輸入 token 和 1 個輸出 token。約 13 分鐘後,AI Studio 的完整清單顯示了 true 標記與 OK 輸出,但沒有 false 標記。這組配對對照測試說明,原生介面和 Chat 相容介面必須分別驗證。

原生 REST 呼叫中的 store 是最上層布林值,不屬於 generationConfig 內的生成參數。REST 參考文件定義了這個結構。以下範例是直接傳給 Google 的對照請求,與閘道 BYOK 設定無關:
import json
import os
import secrets
import urllib.request
marker = "storage-check-" + secrets.token_hex(8)
body = {
"contents": [{"role": "user", "parts": [
{"text": f"Synthetic request {marker}. Reply only OK."}
]}],
"generationConfig": {"maxOutputTokens": 16},
"store": False,
}
request = urllib.request.Request(
"https://generativelanguage.googleapis.com/v1beta/"
"models/gemini-3.5-flash-lite:generateContent",
data=json.dumps(body).encode(),
headers={"Content-Type": "application/json",
"x-goog-api-key": os.environ["GEMINI_API_KEY"]},
method="POST",
)
with urllib.request.urlopen(request, timeout=30) as response:
result = json.load(response)
print({"marker": marker, "response_id": result.get("responseId"),
"usage": result.get("usageMetadata")})
請求完成後,請到憑證獲授權的專案記錄中查找標記。在解讀 false 標記未出現的結果之前,先用 true 案例做陽性對照。HTTP 200 只能證明請求被接受;記錄觀察結果才能證明該請求是否出現在所觀察的應用程式記錄中。
這個付費專案建立於 October 26 之前,GenerateContent 儲存已啟用,畫面顯示的保留設定為 55 天。我們沒有變更這兩項設定。AI Studio 的個別記錄詳細資料無法載入,因此觀察依據是完整清單中的提示詞、輸出、模型、狀態和時間戳記。這些觀察結果只涉及應用程式記錄,不涵蓋 Google 的所有資料保留機制。
本機對照測試驗證了什麼?
本機記錄器的 9 個案例涵蓋 Chat、Responses 和原生 Gemini 請求格式,每種格式各測試 store 為 true、false 及省略的情況。Chat 和 Responses 會保留明確指定的布林值;原生 Gemini 轉成 Chat 時則會省略。這些測試使用合成客戶憑證和本機接收端,沒有呼叫 Google。
另外 2 個案例讓受控的客戶端點回傳 HTTP 503。關閉 fallback 時,用戶端收到 503,平台的嘗試次數為零。開啟 fallback 時,平台執行了 1 次以 stub 模擬的嘗試,並回傳 200。這只驗證了一種失敗情境,並未涵蓋所有憑證生命週期或 fallback 條件。
fallback 會改變專案的資料處理方式嗎?
fallback 可能改用另一組憑證傳送請求,而該憑證對應的專案設定可能不同。工作負載若限定只能使用特定專案,就必須把這種變化納入政策設定與驗證。
Synthorai 文件中的 Custom 端點設定 自動改用 Synthorai 額度,決定該端點失敗後,平台是否可以接手回應。實作上也會區分「符合使用條件的金鑰呼叫上游失敗」與「金鑰不存在或不符合使用條件」。這些情況在系統內走的是不同路徑。
| 情境 | 需要驗證的事項 |
|---|---|
| 已設定的客戶憑證收到上游錯誤 | 允許的 fallback 是否仍限於核准的憑證與服務集合 |
| 金鑰遭移除或停用 | 下一個請求會送往哪裡;BYOK 指南記載了移除金鑰後會改用共用憑證的 fallback 行為 |
| 模型不在金鑰的模型篩選範圍內 | 呼叫會遭拒絕,還是改用其他憑證 |
| 憑證解析功能無法使用 | 系統會拒絕呼叫,還是依照維持可用性的 fallback 行為處理 |
| 請求明確列出第二個模型 | 該模型是否有獨立核准的憑證與服務 |
對於必須留在單一專案內的工作負載,請驗證只要沒有可用的核准憑證與服務,系統就會拒絕請求。單靠停用上游失敗時的 fallback,不能證明表中所有情境都會如此處理。
上線前應驗證什麼?
對於允許提示詞出現在 AI Studio 記錄中的開發工具,本次測試的 Developer API Custom 端點路徑,在省略 store 時可以完成請求。請在閘道控制台設定憑證、模型清單和 fallback 政策,並檢查對應 Google 專案的記錄設定。
如果工作負載要求停用應用程式記錄,這項閘道整合建議使用 Google 文件所述的專案控制項。請在自己的專案中驗證停用後的行為;我們的實驗沒有涵蓋這項設定。不要移除遭拒絕的 store=false 欄位後,就假設請求仍具有相同的隱私行為。
對於限定專案或涉及敏感資料的工作負載,也要驗證憑證歸屬與每個 fallback 目的地,並檢查安全性資料保留、快取及雲端記錄。Vertex 必須另外檢查其自身的控制項。只設定 BYOK,無法保證這些條件都已滿足。
請記下合成標記、目的地專案/服務、最終的儲存欄位,以及可取得的供應商回應 ID,再與供應商記錄比對。最終的 BYOK 計費標籤,無法證明之前每次嘗試的目的地。
關於更完整的處理鏈,請參閱 LLM 資料保留與 ZDR。關於請求關聯,請參閱追蹤與工作階段。
常見問題
Gemini BYOK 會停用請求記錄嗎?
Gemini BYOK 在閘道控制台設定,用來選擇客戶憑證。記錄功能仍由實際服務的專案設定,以及受支援的請求層級選項控制。請檢查目的地服務及其記錄設定。
應該透過推論請求參數設定 BYOK 嗎?
請透過控制台設定 Synthorai BYOK,再使用閘道 API 金鑰傳送一般推論呼叫。標準 Google 憑證庫項目使用 Vertex;Developer API Custom 端點則需另外設定。推論 payload 中的 Google 金鑰或 store=false 都無法取代這些設定。請另外到實際的 Google 專案設定請求儲存。
store=false 代表零資料保留嗎?
原生 Gemini 的 store=false 設定控制的是應用程式請求儲存。供應商基於安全目的保留的資料、快取及其他狀態,各有不同規則,因此單靠這個旗標,無法證明完整請求路徑都符合零資料保留。
停用 fallback 能保證每個請求都留在我的專案嗎?
上游失敗時的 fallback 開關只涵蓋部分判斷流程。憑證缺失、不符合使用條件,以及明確指定模型鏈等情況,都需要分別檢查。對於限定專案的工作負載,必須實際確認:只要沒有可用的核准憑證與服務,請求就會遭到拒絕。