Cloudflare 改变了 AI Gateway 使用情况在每月发票上的显示方式,而且这一调整比乍一看更具运营意义。在 9 月 1 日的变更日志条目中,该公司表示,每月使用发票现在显示每个模型一个总成本行项目,而不是输入令牌和输出令牌的单独行项目。 Cloudflare 还表示,它使用一致的提供商/模型标识符对发票和日志中的模型名称进行了标准化。

此更改不适用于 AI Gateway 信用购买的发票。它与每月的使用发票有关:财务团队、平台团队和经销商在流量通过网关后用于协调消费的记录。

对于只需要高级账单的客户,新格式可能更容易阅读。对于计算利润、向租户分配人工智能成本或按工作负载审核代币组合的团队来说,它会改变详细分类账的存放位置。发票不再是令牌会计工件,而更像是模型级成本摘要。

Cloudflare AI Gateway 计费发生了哪些变化

在此更新之前,每月使用发票可以将输入令牌和输出令牌费用分开。这种区别很重要,因为许多模型提供商对这些代币类别的定价不同。发送大型提示并接收简短答案的工作负载与发送小型提示并生成长响应的工作负载具有不同的成本配置,即使两者都与同一模型关联。

Cloudflare 的新发票结构将这些单独的令牌类型行项目折叠为每个模型的一个总成本行。实际效果是模型级计费更清晰,但有关成本如何产生的发票级详细信息更少。

同时,跨发票和日志的模型标识符的标准化解决了一个不同但相关的问题:别名漂移。在多模型系统中,同一模型可能会在日志、账单导出、仪表板、客户报告和内部路由规则中以略有不同的名称出现。一致的提供商/模型命名格式可以减少财务和工程团队将使用日志中的一个字符串与发票中略有不同的字符串进行匹配的机会。

这部分更改对于操作统一 AI API 计费的任何人来说显然都是有用的。如果法案说的是一件事而日志流说的是另一件事,那么对账就变成了手动映射工作。标准标识符使自动连接、仪表板和客户报表更容易信任。

为什么发票粒度很重要

更难权衡的是令牌粒度。 AI 基础设施团队通常需要的不仅仅是模型的总费用。他们需要知道成本峰值是否来自更长的提示、更详细的输出、路由更改、缓存未命中模式、新的代理循环或开始发送大文件作为上下文的客户集成。

模型级发票行可以确认所欠金额。它本身无法解释产生电荷的行为。该解释必须来自日志、导出、网关遥测或单独的使用分类账。

这对于位于模型提供商和最终客户之间的企业来说最为重要。经销商、内部平台团队、具有嵌入式人工智能功能的 SaaS 产品以及管理客户工作负载的机构都需要合理的成本归因。如果他们的上游发票不再将输入和输出令牌成本作为单独的行公开,他们必须在发票时间之前保留这种区别。

同样的问题也适用于大公司内部的退款。财务团队可能会对“X 型成本这么高”感到满意。工程经理可能需要知道特定的存储库助理、支持机器人或文档工作流程生成了异常数量的输出令牌。这些是不同的会计问题。

谁受到影响

直接 Cloudflare AI Gateway 用户是直接受众。任何依赖月度发票作为计费真实性主要来源的团队都应该审查新格式是否仍然支持其内部报告需求。

网关运营商和 AI API 经销商受到的影响更为深远。如果他们转售对多个模型的访问权限、开具客户发票或应用自定义标记,则他们需要自己的每个请求记录:模型标识符、提供商、输入令牌、输出令牌、相关的缓存令牌、单价、应用的折扣、客户密钥、项目、租户和时间戳。如果没有该分类账,简化的上游发票可能会使下游账单难以验证。

构建仪表板的开发人员面临类似的调整。模型名称标准化应该减少映射错误,但前提是内部系统采用相同的规范标识符或维护有意的别名表。在这里,AI API 使用情况分析仪表板不仅仅只是提供报告便利。它成为保留、查询和解释从发票中删除的详细信息的地方。

对于 Model Gate 用户和类似的多提供商网关客户来说,教训很简单:不要将提供商发票视为唯一的事实来源。统一计费之所以有用,正是因为提供商的格式、定价和公开使用情况不同。网关级分类账允许团队在将信息压缩为提供商选择的任何发票格式之前对其进行规范化。

模型名称的更改可能是更大的长期信号

标准化标识符更新可能会比发票格式的争论更持久。模型命名正在成为整个人工智能堆栈的一个操作问题。提供商修改模型 ID,云平台将同一模型包装在特定于渠道的名称下,网关引入别名以实现兼容性,以及应用程序在配置文件中固定名称。

当命名发生偏差时,有几件事会悄然发生。成本报告将一个模型拆分为多行。弃用检查会漏掉仍使用旧别名的流量。路由策略适用于一个名称,但不适用于另一个名称。客户发票显示的标签与开发人员的日志不匹配。

Cloudflare 向一致的提供商/模型标识符的转变反映了对可审核而不仅仅是方便的 AI 模型选择系统的更广泛需求。人性化的别名在应用程序层仍然有用,但计费和日志需要稳定的规范名称。

剩下的不确定性是 Cloudflare 客户将在发票之外保留多少详细的使用数据,以及导出这些数据以进行长期对账的容易程度。变更日志确认了发票和命名更改,但它本身并不能回答经销商或具有自定义退款模型的企业的每个下游会计问题。

实际响应并不复杂,但很紧迫:在每月发票到达之前捕获代币级别的使用情况,在摄取时规范化模型标识符,并使内部分类账成为客户计费和成本分析的权威。 Cloudflare 的发票现在可能更简单。人工智能企业不应该让自己的会计变得不那么精确。