Gemini BYOK 不會停用 Google 請求儲存

目錄
  1. BYOK、Vertex 和 Developer API 有什麼關係?
  2. 客戶應在哪裡設定 BYOK 和請求儲存?
  3. Gemini 請求儲存有什麼變更?
  4. Custom 端點能呼叫 Gemini Developer API 嗎?
  5. store=false 在原生 Developer API 上有效嗎?
  6. 本機對照測試驗證了什麼?
  7. fallback 會改變專案的資料處理方式嗎?
  8. 上線前應驗證什麼?
  9. 常見問題
  10. Gemini BYOK 會停用請求記錄嗎?
  11. 應該透過推論請求參數設定 BYOK 嗎?
  12. store=false 代表零資料保留嗎?
  13. 停用 fallback 能保證每個請求都留在我的專案嗎?

Gemini BYOK(bring your own key,自備金鑰)決定閘道使用哪組客戶憑證,不會停用請求儲存。本文測試的閘道路徑,需要在 Synthorai 控制台設定 BYOK,並在對應的 Google 專案設定儲存政策。我們發現,Google 的 Chat 相容 API 會拒絕最上層的 store=false;原生 Gemini 請求轉換成 Chat 格式時,這個欄位則會被省略。

TL;DR

  • Gemini 是模型家族。Gemini Developer API 和 Vertex AI 是呼叫這些模型的兩條獨立 Google 服務路徑。
  • Synthorai 的標準 Google BYOK 設定使用 Vertex;若要使用 Developer API 的 Chat 相容介面,可以另外設定 Custom 端點。
  • 閘道憑證和 fallback 在 Synthorai 控制台設定;Developer API 的專案記錄功能則在 Google AI Studio 設定。
  • 在 6 次同步閘道測試中,Chat 請求明確帶入儲存布林值時,都收到 400;原生格式轉為 Chat 時則省略了布林值,成功的請求也都出現在 AI Studio 記錄中。

BYOK、Vertex 和 Developer API 有什麼關係?

BYOK 決定閘道使用誰的憑證。Vertex AI 和 Gemini Developer API 則代表接收請求的 Google 服務。模型名稱包含 Gemini,不代表能從中判斷使用的是哪個服務,也無法判斷其儲存政策。

Google 服務Google API 主機Synthorai 設定需要檢查的儲存控制項
Vertex AI 上的 Geminiaiplatform.googleapis.com,包含區域主機標示為 Vertex 的標準 Google BYOK 設定,搭配獲准使用 Vertex 的憑證所選 Google Cloud 專案中,該服務的記錄與保留控制項
Gemini Developer APIgenerativelanguage.googleapis.com獨立的 Custom 端點,使用 Google 的 OpenAI 相容介面和 Developer API 金鑰AI Studio 專案記錄功能;實際 API 介面支援的請求層級選項

Custom 端點是閘道設定,不是第三種 Google 服務。它指定目的地 URL、API 格式、客戶金鑰和模型清單。Google 的 Chat 相容介面是 Developer API 的其中一種介面;原生 GenerateContent 介面使用另一種請求格式。

標準 Vertex BYOK 設定沒有專供 Gemini Developer API 金鑰使用的欄位。Vertex 常用的 Google Cloud 服務帳戶,是具有專案權限的應用程式身分。Developer API 金鑰則對應不同的服務設定。請使用獲准存取所選目的地的憑證。

以下實驗針對 Developer API。Vertex 請參閱 Google 的個別服務資料保留控制項;Developer API 的記錄功能變更,不能用來推論 Vertex 的行為。

客戶應在哪裡設定 BYOK 和請求儲存?

先在 Synthorai 控制台設定客戶憑證,再到所選 Google 服務的控制台檢查儲存設定。這些設定控制的是請求路徑中的不同環節。

設定位置設定內容
Synthorai 控制台的 BYOK客戶憑證或 Custom 端點、要使用的模型、啟用狀態及 fallback 政策
Google AI Studio 的 Developer API 專案GenerateContent 請求儲存與記錄保留
Google Cloud 的 Vertex 專案相關服務的記錄與保留控制項

依照 BYOK 指南設定閘道後,應用程式便可使用閘道 API 金鑰發出一般推論呼叫。Custom 端點的模型清單務必明確列出:依文件所述,空白清單會接管所有模型。模型名稱也必須是該端點接受的名稱,因為平台別名可能不同。

對於本次測試的 Developer API Custom 端點路徑,應透過 Google 專案設定確立應用程式記錄政策。Google 的文件說明了如何在 AI Studio 啟用與停用專案記錄功能。若要停用,請先用合成請求驗證結果,再使用敏感提示詞。我們的測試是在儲存功能啟用的狀態下進行,沒有測試停用後的行為。

Google 原生 GenerateContent API 仍可在請求層級控制儲存,受支援的 store 值會覆寫專案設定。對於本次測試的 Chat 相容路徑,閘道並未保證這個參數具備 Google 專屬相容性。以下結果說明了為什麼這項整合建議使用後端設定來控制儲存。

Gemini 請求儲存有什麼變更?

新建的付費 Gemini Developer API 專案,現在預設會儲存 Generate Content 請求,除非呼叫端或專案設定停用儲存。October 26 之前建立的專案會保留原有設定。在舊專案內建立新金鑰,並不等於建立新專案,也無法據此判斷適用哪個記錄預設值。Google 在 October 26 版本說明中記載了這項變更。

請求層級的 store 屬性優先於專案預設值。記錄功能指南涵蓋同步、串流和批次 Generate Content 呼叫,也包含透過 Google OpenAI 相容介面發出的呼叫。專案儲存的記錄預設保留 55 天,可設定為 7、14、28 或 55 天。將記錄存入資料集後,資料的生命週期會改變。

請求儲存也與訓練用途及安全記錄分開處理。Google 的付費服務條款表示,不會使用付費服務的提示詞與回應來改善產品,同時也說明了基於安全與資安目的的有限資料保留。關閉應用程式記錄,只處理其中一種特定的儲存機制。

Custom 端點能呼叫 Gemini Developer API 嗎?

在隔離環境中,Synthorai Custom 端點處理流程省略 store 時,成功透過 Google 的 Chat 相容端點呼叫了 Gemini 3.5 Flash-Lite。Google 回傳 HTTP 200 和 OK,閘道也向用戶端回傳 HTTP 200。明確帶入最上層 store=true 或 store=false 時,Google 則回傳 HTTP 400,表示請求無效。

隔離測試環境使用以下 Custom 端點設定值:

設定值
端點 API 類型OpenAI Chat Completions(openai_chat)
Google 基底 URLhttps://generativelanguage.googleapis.com/v1beta/openai
憑證現有的 Gemini Developer API 金鑰,以 Bearer 驗證方式傳送
模型清單僅 gemini-3.5-flash-lite
平台 fallback停用

記錄器確認,Chat 格式的用戶端請求會將明確指定的布林值保留在送出的 JSON 中。Google 的錯誤訊息是 Invalid JSON payload received. Unknown name "store": Cannot find field.。這個結果只針對 Chat 最上層欄位,不能據此認定所有可能的 Google 專屬擴充欄位都不受支援。

最終的同步測試矩陣顯示,用戶端請求格式會影響實際傳送的內容:

用戶端請求格式輸入的 store送出的 Chat storeGoogle/用戶端 HTTPAI Studio 記錄
Chattruetrue400 / 400未產生回應
Chatfalsefalse400 / 400未產生回應
Chat省略省略200 / 200可見
原生 Geminitrue省略200 / 200可見
原生 Geminifalse省略200 / 200可見
原生 Gemini省略省略200 / 200可見

每一列代表向相同模型與付費專案發出的一次合成請求。呼叫完成後,AI Studio 未套用篩選的 All datasets 清單中,可以找到全部 4 個成功案例的完整標記,包括原生格式的 store=false 案例。該專案的 GenerateContent 儲存設定處於啟用狀態。原生格式轉成 Chat 時遺失了這個旗標,因此請求抵達 Google 時,已不再包含要求不儲存的設定,最後也出現在應用程式記錄中。

AI Studio 實際清單,顯示 3 次原生格式測試,以及未帶入 store 的成功 Chat 請求

截圖中的輸入欄位內容遭到截斷;我們已在實際清單中逐一比對完整標記。前 3 列依序對應原生格式省略、false 和 true,接著是 Chat 省略的案例。這只能驗證這些案例在應用程式記錄中可見,不能驗證 Google 的所有資料保留機制。

我們於 November 1, 2026(UTC)使用既有付費專案及合成提示詞進行測試。隔離的閘道環境提供測試用使用者/工作區身分,以及暫時性的加密憑證儲存。本機記錄器透過 HTTPS,將送出的本文與客戶 Bearer 憑證原樣轉送給 Google。正式環境控制台設定、公用目的地 URL 檢查、用戶端驗證及串流,都不在本次測試範圍內。

store=false 在原生 Developer API 上有效嗎?

直接呼叫 Gemini 3.5 Flash-Lite 的原生 GenerateContent API 時,store=true 和 store=false 都被接受。這 2 次請求各自回傳 HTTP 200、回應 ID,以及 32 個輸入 token 和 1 個輸出 token。約 13 分鐘後,AI Studio 的完整清單顯示了 true 標記與 OK 輸出,但沒有 false 標記。這組配對對照測試說明,原生介面和 Chat 相容介面必須分別驗證。

AI Studio 實際記錄清單,顯示原生 store=true 合成請求、OK 輸出與 HTTP 200

原生 REST 呼叫中的 store 是最上層布林值,不屬於 generationConfig 內的生成參數。REST 參考文件定義了這個結構。以下範例是直接傳給 Google 的對照請求,與閘道 BYOK 設定無關:

import json
import os
import secrets
import urllib.request

marker = "storage-check-" + secrets.token_hex(8)
body = {
    "contents": [{"role": "user", "parts": [
        {"text": f"Synthetic request {marker}. Reply only OK."}
    ]}],
    "generationConfig": {"maxOutputTokens": 16},
    "store": False,
}
request = urllib.request.Request(
    "https://generativelanguage.googleapis.com/v1beta/"
    "models/gemini-3.5-flash-lite:generateContent",
    data=json.dumps(body).encode(),
    headers={"Content-Type": "application/json",
             "x-goog-api-key": os.environ["GEMINI_API_KEY"]},
    method="POST",
)
with urllib.request.urlopen(request, timeout=30) as response:
    result = json.load(response)
print({"marker": marker, "response_id": result.get("responseId"),
       "usage": result.get("usageMetadata")})

請求完成後,請到憑證獲授權的專案記錄中查找標記。在解讀 false 標記未出現的結果之前,先用 true 案例做陽性對照。HTTP 200 只能證明請求被接受;記錄觀察結果才能證明該請求是否出現在所觀察的應用程式記錄中。

這個付費專案建立於 October 26 之前,GenerateContent 儲存已啟用,畫面顯示的保留設定為 55 天。我們沒有變更這兩項設定。AI Studio 的個別記錄詳細資料無法載入,因此觀察依據是完整清單中的提示詞、輸出、模型、狀態和時間戳記。這些觀察結果只涉及應用程式記錄,不涵蓋 Google 的所有資料保留機制。

本機對照測試驗證了什麼?

本機記錄器的 9 個案例涵蓋 Chat、Responses 和原生 Gemini 請求格式,每種格式各測試 store 為 true、false 及省略的情況。Chat 和 Responses 會保留明確指定的布林值;原生 Gemini 轉成 Chat 時則會省略。這些測試使用合成客戶憑證和本機接收端,沒有呼叫 Google。

另外 2 個案例讓受控的客戶端點回傳 HTTP 503。關閉 fallback 時,用戶端收到 503,平台的嘗試次數為零。開啟 fallback 時,平台執行了 1 次以 stub 模擬的嘗試,並回傳 200。這只驗證了一種失敗情境,並未涵蓋所有憑證生命週期或 fallback 條件。

fallback 會改變專案的資料處理方式嗎?

fallback 可能改用另一組憑證傳送請求,而該憑證對應的專案設定可能不同。工作負載若限定只能使用特定專案,就必須把這種變化納入政策設定與驗證。

Synthorai 文件中的 Custom 端點設定 自動改用 Synthorai 額度,決定該端點失敗後,平台是否可以接手回應。實作上也會區分「符合使用條件的金鑰呼叫上游失敗」與「金鑰不存在或不符合使用條件」。這些情況在系統內走的是不同路徑。

情境需要驗證的事項
已設定的客戶憑證收到上游錯誤允許的 fallback 是否仍限於核准的憑證與服務集合
金鑰遭移除或停用下一個請求會送往哪裡;BYOK 指南記載了移除金鑰後會改用共用憑證的 fallback 行為
模型不在金鑰的模型篩選範圍內呼叫會遭拒絕,還是改用其他憑證
憑證解析功能無法使用系統會拒絕呼叫,還是依照維持可用性的 fallback 行為處理
請求明確列出第二個模型該模型是否有獨立核准的憑證與服務

對於必須留在單一專案內的工作負載,請驗證只要沒有可用的核准憑證與服務,系統就會拒絕請求。單靠停用上游失敗時的 fallback,不能證明表中所有情境都會如此處理。

上線前應驗證什麼?

對於允許提示詞出現在 AI Studio 記錄中的開發工具,本次測試的 Developer API Custom 端點路徑,在省略 store 時可以完成請求。請在閘道控制台設定憑證、模型清單和 fallback 政策,並檢查對應 Google 專案的記錄設定。

如果工作負載要求停用應用程式記錄,這項閘道整合建議使用 Google 文件所述的專案控制項。請在自己的專案中驗證停用後的行為;我們的實驗沒有涵蓋這項設定。不要移除遭拒絕的 store=false 欄位後,就假設請求仍具有相同的隱私行為。

對於限定專案或涉及敏感資料的工作負載,也要驗證憑證歸屬與每個 fallback 目的地,並檢查安全性資料保留、快取及雲端記錄。Vertex 必須另外檢查其自身的控制項。只設定 BYOK,無法保證這些條件都已滿足。

請記下合成標記、目的地專案/服務、最終的儲存欄位,以及可取得的供應商回應 ID,再與供應商記錄比對。最終的 BYOK 計費標籤,無法證明之前每次嘗試的目的地。

關於更完整的處理鏈,請參閱 LLM 資料保留與 ZDR。關於請求關聯,請參閱追蹤與工作階段。

常見問題

Gemini BYOK 會停用請求記錄嗎?

Gemini BYOK 在閘道控制台設定,用來選擇客戶憑證。記錄功能仍由實際服務的專案設定,以及受支援的請求層級選項控制。請檢查目的地服務及其記錄設定。

應該透過推論請求參數設定 BYOK 嗎?

請透過控制台設定 Synthorai BYOK,再使用閘道 API 金鑰傳送一般推論呼叫。標準 Google 憑證庫項目使用 Vertex;Developer API Custom 端點則需另外設定。推論 payload 中的 Google 金鑰或 store=false 都無法取代這些設定。請另外到實際的 Google 專案設定請求儲存。

store=false 代表零資料保留嗎?

原生 Gemini 的 store=false 設定控制的是應用程式請求儲存。供應商基於安全目的保留的資料、快取及其他狀態,各有不同規則,因此單靠這個旗標,無法證明完整請求路徑都符合零資料保留。

停用 fallback 能保證每個請求都留在我的專案嗎?

上游失敗時的 fallback 開關只涵蓋部分判斷流程。憑證缺失、不符合使用條件,以及明確指定模型鏈等情況,都需要分別檢查。對於限定專案的工作負載,必須實際確認:只要沒有可用的核准憑證與服務,請求就會遭到拒絕。

← 返回部落格