Gemini BYOK 不会关闭 Google 请求存储

目录
  1. BYOK、Vertex 和 Developer API 是什么关系?
  2. 客户应该在哪里配置 BYOK 和请求存储?
  3. Gemini 请求存储发生了什么变化?
  4. Custom endpoint 能调用 Gemini Developer API 吗?
  5. store=false 在原生 Developer API 上有效吗?
  6. 本地对照验证了什么?
  7. fallback 会改变项目的数据处理方式吗?
  8. 投入生产前应该验证什么?
  9. 常见问题
  10. Gemini BYOK 会关闭请求日志吗?
  11. 应该通过推理请求参数配置 BYOK 吗?
  12. store=false 是否意味着零数据保留?
  13. 关闭 fallback 是否能保证所有请求都留在我的项目中?

Gemini BYOK(bring your own key)只是让网关使用客户凭据,不会关闭请求存储。对于本文测试的网关路径,需要在 Synthorai 控制台配置 BYOK,并在对应的 Google 项目中设置存储策略。测试发现,Google 的 Chat 兼容 API 会拒绝顶层 store=false,而原生 Gemini 请求转为 Chat 格式时,这个字段会被丢弃。

TL;DR

  • Gemini 是一个模型系列。Gemini Developer API 和 Vertex AI 是 Google 提供的两条独立服务路径,都可以调用这些模型。
  • Synthorai 的标准 Google BYOK 配置指向 Vertex;单独配置的 Custom endpoint 可以指向 Developer API 的 Chat 兼容接口。
  • 网关凭据和 fallback 在 Synthorai 控制台配置;Developer API 的项目日志在 Google AI Studio 配置。
  • 在六次同步网关测试中,Chat 请求显式传入存储布尔值均返回 400;原生请求转为 Chat 格式时会丢弃这些布尔值,成功的请求均出现在 AI Studio 日志中。

BYOK、Vertex 和 Developer API 是什么关系?

BYOK 决定网关使用谁的凭据。Vertex AI 和 Gemini Developer API 则决定由 Google 的哪个服务接收请求。模型名称中包含 Gemini,并不能说明请求会发往哪个服务,也不能说明适用哪种存储策略。

Google 服务Google API 主机Synthorai 配置需要检查的存储控制项
Vertex AI 上的 Geminiaiplatform.googleapis.com,包括区域主机标为 Vertex 的标准 Google BYOK 配置,使用已获 Vertex 授权的凭据所选 Google Cloud 项目中对应服务的日志和保留控制项
Gemini Developer APIgenerativelanguage.googleapis.com单独配置 Custom endpoint,使用 Google 的 OpenAI 兼容接口和 Developer API keyAI Studio 项目日志;实际 API 接口支持的请求级选项

Custom endpoint 是网关配置,不是 Google 的第三种服务。它指定目标 URL、API 格式、客户密钥和模型列表。Google 的 Chat 兼容接口 是 Developer API 的一种接口;原生 GenerateContent 接口使用另一种请求格式。

标准 Vertex BYOK 配置没有专门用于填写 Gemini Developer API key 的位置。Vertex 常用的 Google Cloud 服务账号是一种应用身份,具有项目权限。Developer API key 对应的则是另一套服务配置。凭据必须获得所选目标服务的授权。

下文实验针对 Developer API。Vertex 的行为请参考 Google 的服务专用保留控制项;不能用 Developer API 的日志变更来推断 Vertex 的行为。

客户应该在哪里配置 BYOK 和请求存储?

先在 Synthorai 控制台配置客户凭据,再到所选 Google 服务的控制台检查存储设置。这两类设置控制的是请求路径中的不同环节。

配置位置配置内容
Synthorai 控制台,BYOK客户凭据或 Custom endpoint、目标模型、启用状态和 fallback 策略
Google AI Studio,Developer API 项目GenerateContent 请求存储和日志保留
Google Cloud,Vertex 项目对应服务的日志和保留控制项

按照 BYOK 指南配置网关后,应用使用网关 API key 发起普通推理调用。Custom endpoint 应明确填写模型列表:按文档定义的行为,空列表会接管所有模型。模型名称也必须是该端点接受的名称,因为平台别名可能不同。

对于本次测试的 Developer API Custom endpoint 路径,应通过 Google 项目设置确定应用日志策略。Google 文档说明了如何在 AI Studio 中启用和停用项目日志。如果关闭日志,应先用合成请求验证结果,再发送敏感 prompt。本次测试观察的是存储已启用的情况,没有测量关闭后的行为。

Google 原生 GenerateContent API 仍支持请求级控制,受支持的 store 值可以覆盖项目设置。对于本次测试的 Chat 兼容路径,网关并未承诺该参数具备 Google 专用兼容性。下面的测试结果说明了为什么建议通过后端配置控制这一集成的存储行为。

Gemini 请求存储发生了什么变化?

新建的付费 Gemini Developer API 项目现在默认存储 Generate Content 请求,除非调用方或项目设置关闭存储。10 月 26 日之前创建的项目保留原有设置。在旧项目中创建新密钥不会创建新项目,也不能据此判断适用哪种日志默认设置。Google 在 10 月 26 日发布说明中记录了这项变更。

请求级 store 属性优先于项目默认值。日志指南涵盖同步、streaming 和批量 Generate Content 调用,也包括通过 Google 的 OpenAI 兼容接口发起的调用。项目日志默认保留 55 天,可配置为 7、14、28 或 55 天。将日志保存到数据集后,其生命周期会发生变化。

请求存储、训练用途和安全日志是不同的机制。Google 的付费服务条款说明,付费 prompt 和响应不会用于改进其产品,同时也说明了出于安全防护目的进行的有限保留。关闭应用日志只针对其中一种存储机制。

Custom endpoint 能调用 Gemini Developer API 吗?

在不传 store 时,隔离环境中的 Synthorai Custom endpoint 调用链成功通过 Google 的 Chat 兼容端点调用了 Gemini 3.5 Flash-Lite。Google 返回 HTTP 200 和 OK,网关也向客户端返回 HTTP 200。显式传入顶层 store=true 或 store=false 时,Google 返回 HTTP 400,表示请求无效。

隔离测试环境使用了以下 Custom endpoint 配置:

设置值
端点 API 类型OpenAI Chat Completions(openai_chat)
Google 基础 URLhttps://generativelanguage.googleapis.com/v1beta/openai
凭据现有 Gemini Developer API key,通过 Bearer 认证发送
模型列表仅 gemini-3.5-flash-lite
平台 fallback关闭

记录器确认,Chat 格式客户端请求中的显式布尔值均保留在发出的 JSON 中。Google 返回的错误为 Invalid JSON payload received. Unknown name "store": Cannot find field. 这一结果只针对 Chat 顶层字段,不能据此断定所有 Google 专用扩展都不受支持。

最终的同步测试矩阵展示了客户端请求格式对字段传递的影响:

客户端请求格式输入 store发出的 Chat storeGoogle / 客户端 HTTPAI Studio 日志
Chattruetrue400 / 400未生成响应
Chatfalsefalse400 / 400未生成响应
Chat未传入未传入200 / 200可见
原生 Geminitrue未传入200 / 200可见
原生 Geminifalse未传入200 / 200可见
原生 Gemini未传入未传入200 / 200可见

每行代表向同一个模型、同一个付费项目发送的一次合成请求。调用完成后,AI Studio 未加筛选的 All datasets 列表中出现了全部四个成功用例的精确标记,包括原生格式的 store=false 用例。该项目的 GenerateContent 存储设置处于启用状态。原生格式转为 Chat 格式时丢弃了这个标志,因此请求到达 Google 时没有携带要求关闭存储的选项,最终出现在应用日志中。

AI Studio 实际列表,显示三个原生格式测试以及未传 store 的成功 Chat 请求

截图中的输入单元格被截断了;我们在实时列表中核对了每个完整标记。前三行依次对应原生格式未传值、false 和 true,随后是未传值的 Chat 请求。这验证了这些用例在应用日志中的可见性,并不能验证 Google 的所有保留机制。

测试于 2026 年 11 月 1 日(UTC)进行,使用现有付费项目和合成 prompt。隔离网关环境提供了测试用户/工作区身份,以及临时加密凭据存储。本地记录器通过 HTTPS 将发出的请求体和客户 Bearer 凭据原样转发给 Google。本次测试不包括生产控制台配置、公共目标 URL 检查、客户端认证和 streaming。

store=false 在原生 Developer API 上有效吗?

直接调用 Gemini 3.5 Flash-Lite 的原生 GenerateContent 接口时,store=true 和 store=false 都被接受。两次请求均返回 HTTP 200、响应 ID,以及 32 个输入 token 和 1 个输出 token。约 13 分钟后,完整的 AI Studio 列表中出现了 true 请求的标记和 OK 输出,但没有 false 请求的标记。这组配对对照说明,原生接口和 Chat 兼容接口需要分别验证。

AI Studio 实际日志列表,显示原生 store=true 合成请求、OK 输出和 HTTP 200

对于原生 REST 调用,store 是顶层布尔值,不属于 generationConfig 中的生成参数。REST 参考文档定义了这一结构。下面是直接发往 Google 的对照请求,与网关 BYOK 配置无关:

import json
import os
import secrets
import urllib.request

marker = "storage-check-" + secrets.token_hex(8)
body = {
    "contents": [{"role": "user", "parts": [
        {"text": f"Synthetic request {marker}. Reply only OK."}
    ]}],
    "generationConfig": {"maxOutputTokens": 16},
    "store": False,
}
request = urllib.request.Request(
    "https://generativelanguage.googleapis.com/v1beta/"
    "models/gemini-3.5-flash-lite:generateContent",
    data=json.dumps(body).encode(),
    headers={"Content-Type": "application/json",
             "x-goog-api-key": os.environ["GEMINI_API_KEY"]},
    method="POST",
)
with urllib.request.urlopen(request, timeout=30) as response:
    result = json.load(response)
print({"marker": marker, "response_id": result.get("responseId"),
       "usage": result.get("usageMetadata")})

请求完成后,在凭据获授权的项目日志中检查标记。在判断 false 标记缺失的意义之前,先用 true 请求做阳性对照。HTTP 200 只能证明请求被接受;日志观察结果才能证明请求在所观察的应用日志中是否可见。

该付费项目创建于 10 月 26 日之前,GenerateContent 存储已启用,界面显示的保留期为 55 天。我们没有修改这两项设置。AI Studio 的单条日志详情加载失败,因此观察依据是完整列表中的 prompt、输出、模型、状态和时间戳。这些观察只涉及应用日志,不涵盖 Google 的所有保留机制。

本地对照验证了什么?

本地记录器测试共九个用例,覆盖 Chat、Responses 和原生 Gemini 请求格式,每种格式分别测试 store 为 true、false 和未传入的情况。Chat 和 Responses 保留了显式布尔值;原生 Gemini 转为 Chat 时则丢弃了这些值。这些测试使用合成客户凭据和本地接收端,没有调用 Google。

另外两个用例让受控客户端点返回 HTTP 503。关闭 fallback 时,客户端收到 503,平台未收到任何调用尝试。开启 fallback 时,平台的一次桩调用返回 200。这只验证了一种故障场景,并未覆盖所有凭据生命周期或 fallback 条件。

fallback 会改变项目的数据处理方式吗?

fallback 可能改用另一组凭据发送请求,而这组凭据所属项目的设置可能不同。对于必须限定在某个项目内的工作负载,配置策略和验证都需要覆盖这种变化。

Synthorai 文档中的自定义端点设置 自动回退到 Synthorai 额度 决定了该端点失败后,平台是否可以接手响应。实现还会区分两种情况:符合使用条件的密钥调用上游失败,以及密钥不存在或不符合使用条件。这些情况走的是不同的系统路径。

场景需要验证的内容
已配置的客户凭据收到上游错误允许的 fallback 是否仍限定在获批的凭据和服务范围内
密钥被移除或停用下一个请求发往哪里;BYOK 指南说明了移除密钥后回退到共享凭据的行为
模型不在密钥的模型筛选范围内调用是被拒绝,还是使用另一组凭据
凭据解析不可用系统是拒绝调用,还是按其可用性 fallback 逻辑处理
请求显式列出第二个模型该模型是否有单独获批的凭据和服务

如果工作负载必须留在同一个项目内,就要验证:只要没有获批的凭据和服务可用,请求就会被拒绝。仅关闭上游失败 fallback,不能证明上表中的所有场景都满足这一要求。

投入生产前应该验证什么?

对于允许 prompt 出现在 AI Studio 日志中的开发工具,本次测试的 Developer API Custom endpoint 路径在不传 store 时可以完成请求。应在网关控制台配置凭据、模型列表和 fallback 策略,并检查对应 Google 项目的日志设置。

如果工作负载要求关闭应用日志,建议通过 Google 文档中的项目控制项配置这一网关集成。需要在自己的项目中验证关闭后的行为;本次实验没有测试这项配置。不要在 store=false 被拒绝后直接删除该字段,并假定请求仍具有相同的隐私行为。

对于限定项目或涉及敏感数据的工作负载,还应验证凭据归属和每一个 fallback 目标,并检查安全保留、缓存和云日志。Vertex 需要单独检查自身的控制项。仅配置 BYOK 并不能证明这些条件已经满足。

记录合成标记、目标项目/服务、最终存储字段,以及可获取的提供商响应 ID,再与提供商日志关联核对。最终的 BYOK 计费标签不能证明此前每次尝试的实际目标。

更完整的处理链路见 LLM 数据保留与 ZDR。请求关联方法见追踪与会话。

常见问题

Gemini BYOK 会关闭请求日志吗?

Gemini BYOK 在网关控制台配置,用于选择客户凭据。日志仍由实际服务的项目设置和受支持的请求级选项控制。需要检查目标服务及其日志配置。

应该通过推理请求参数配置 BYOK 吗?

应在控制台配置 Synthorai BYOK,然后使用网关 API key 发送普通推理调用。标准 Google 凭据库条目指向 Vertex;Developer API Custom endpoint 需要单独配置。在推理请求体中放入 Google 密钥或 store=false,都不能替代这些配置。实际 Google 项目中的请求存储也需要单独设置。

store=false 是否意味着零数据保留?

原生 Gemini 的 store=false 控制的是应用请求存储。提供商的安全保留、缓存和其他状态分别遵循各自规则,因此仅凭这个标志,无法确定整条请求路径实现了零数据保留。

关闭 fallback 是否能保证所有请求都留在我的项目中?

上游失败 fallback 开关只控制其中一部分决策。凭据缺失、不符合使用条件,以及显式模型链都需要单独检查。对于限定项目的工作负载,只要没有获批的凭据和服务可用,就必须通过实际观察确认请求会被拒绝。

← 返回博客