Cloudflare 为 AI Gateway 添加了一个小但重要的控制功能:团队现在可以在允许运行请求之前要求第三方提供商凭据。如果网关找不到适用的凭据,请求将失败并显示 HTTP 400,而不是回退到 Cloudflare 管理的统一计费。
这改变了自带密钥或 BYOK 的实际含义。到目前为止,丢失的提供程序密钥可能是一个配置问题,仍然会产生成功的模型调用,但计费路径不同。在新设置中,丢失凭据将成为严格的策略违规行为。对于将客户拥有的模型帐户与集中计费流量分开的组织来说,这种区别比状态代码所暗示的更重要。
发生了什么
Cloudflare 的 9 月 14 日更新添加了两种强制执行新行为的方法。在网关级别,管理员可以启用 byok_only 设置。在请求时,调用者可以发送 cf-aig-no-wholesale 标头,以防止该请求的批发账单回退。
当应用控制且提供商凭据不可用时,AI Gateway 返回 HTTP 400。Cloudflare 表示 Workers AI 请求仍然被允许,因此该策略专门针对可能通过 Cloudflare 托管凭据路由的第三方提供商请求。
该功能不是新型号路由器或定价折扣。它是一种计费模式护栏。这使得它与统一 AI API 计费直接相关,因为单个网关现在可以在集中计费流量和必须向客户自己的提供商帐户收取费用的请求之间划清界限。
为什么计费回退存在风险
当优先考虑正常运行时间时,回退很方便。如果提供者凭证不存在、过期或未附加到正确的路由,则网关管理的凭证可以使应用程序保持正常运行。但同样的便利也会造成混乱的发票追踪。
SaaS 供应商、代理机构或内部平台团队可能会承诺给定租户的流量仅针对该租户的 OpenAI、Anthropic、Google 或其他提供商帐户运行。如果网关默默地使用批发凭证,请求仍然可能成功,但商业意义已经改变。平台运营商可能会吸收成本、错误地传递成本,或者失去根据客户自己的提供商账单协调使用情况的能力。
这对于经销商和合作伙伴 API 模型尤其敏感。由于采购规则,一位客户可能使用 BYOK。另一种可能使用平台计费积分。出于监管或数据治理原因,第三个可能需要单独的提供商帐户。在这种环境中,计费路径是产品合同的一部分,而不是实施细节。
Cloudflare 的新控制功能为团队提供了一种在网关边界强制执行该合同的方法。失败的请求在操作上很烦人,但它比后来出现在错误成本中心的成功请求更容易调试。
受影响的人
直接受众是使用 Cloudflare AI Gateway 并结合了提供商拥有的凭证和 Cloudflare 管理的计费的任何团队。在多个租户、环境或业务部门共享网关配置的情况下,这一变化最为重要。
开发人员需要决定路由是应该优先考虑可用性还是严格的计费隔离。财务和运营团队获得更清洁的机制来防止意外批发使用。安全和平台团队获得了 API 密钥管理的另一个杠杆,因为提供商凭据的存在或不存在现在具有直接的执行结果。
对于更广泛的 AI 网关运营商来说,更新是一个信号。计费控制正在变成策略控制。仅仅表明请求使用了特定模型已经不够了。网关越来越需要记录使用了哪个凭证路径、谁拥有该凭证、哪个租户或 API 密钥发起了调用,以及是否允许回退。
Model Gate 用户在管理团队、API 密钥、使用情况分析和面向合作伙伴的访问时面临着相同的根本问题。客户范围的密钥不仅仅是一个身份验证令牌;它还是一个身份验证令牌。它可以暗示计费模式、支出限额、提供商帐户和一组审计期望。如果这些含义没有得到一致执行,分析仪表板和发票可能会偏离客户认为他们购买的内容。
实际后果
第一个实际变化是错误处理。启用仅 BYOK 控件的应用程序应将来自网关的 HTTP 400 视为配置或凭据问题,而不是模型故障。在不修复凭据的情况下重试相同的请求可能只会产生噪音。
第二个变化是入职。让客户携带提供商密钥的团队需要在生产流量开始之前执行更强大的凭据检查步骤。租户不应在实时工作流程中发现其提供商密钥从未附加到网关路由。
第三个更改是可观察性。网关日志和使用报告应公开请求是否使用 BYOK、平台计费或被阻止的回退路径。如果没有该字段,支持团队可能会知道请求失败,但不知道该失败是否保护了计费边界。
最后,合作伙伴平台应重新审视其默认设置。严格执行 BYOK 并不总是正确的选择。某些产品可能会故意退回到平台计费以保持服务连续性。其他人可能因为合同、客户信任或保证金保护而需要硬分离。重要的转变是决策可以是明确的,而不是偶然的。
尚不清楚的内容
公共变更描述了策略机制,但团队仍然需要测试它在自己的提供商组合、路由结构和凭证继承模型中的表现。目前还不清楚应用程序框架和第三方可观察性工具将在其默认仪表板中体现这种计费模式区别的范围有多大。
更大的方向已经足够明确了。多模型网关正在成为与 API 代理一样的财务控制平面。 Cloudflare 的 BYOK-only 设置是一个狭窄的功能,但它解决了真正的故障模式:技术上可行的请求,但违反了预期的计费模型。