Anthropic 引入了 Claude Haiku 5.5,这是一种新的小型 Claude 模型,旨在针对大容量且成本敏感的 API 工作负载。发布的重要性不那么重要,因为目录中出现了另一个模型,而更重要的是因为它改变了常规 Claude 流量的经济性:分类、汇总、子代理工作、浏览器使用步骤、压缩和其他并不总是需要更大模型的调用。
标题价格非常激进。 Anthropic 列出 Claude Haiku 5.5,对于最多 100,000 个令牌的提示,每百万输入令牌 0.10 美元,每百万输出令牌 0.50 美元,超过该阈值的提示费率更高。该公司表示,该模型可在 Claude 平台上以及通过 Amazon Web Services、Google 云和 Microsoft Azure 获得。 OpenRouter 还列出了 Claude Haiku 5.5,具有 1M 令牌上下文窗口和多提供商可用性。
同时,Anthropic 将 Claude Sonnet 5.5 缓存读取定价从每百万令牌 0.20 美元降低至 0.10 美元。第二个更改很容易被忽视,但对于在多次调用中重复使用长系统提示、存储库、文档或对话状态的团队来说,它可能同样重要。
发生了什么变化
Claude Haiku 5.5 为开发者提供了一种更便宜的 Claude 系列选项,用于处理对延迟敏感、重复性或大批量的工作。实际上,这给路由策略带来了压力。团队可能需要 Haiku 进行提取、类似审核的分类、简短摘要和代理簿记,同时保留 Sonnet 或更大的 Claude 模型以进行更难的推理或面向客户的生成。
这种拆分不仅仅是应用程序代码问题。面向团队的多模型API网关 必须了解哪些上游承载该模型、每个提供商如何公开该模型、适用哪些上下文限制以及当一条云路由不可用时故障转移应如何表现。如果网关将“Claude Haiku 5.5”视为一个平面目录行,则它可以隐藏提供程序访问、速率限制和上下文处理方面的重大差异。
定价也有结算系统需要理解的形式。 Anthropic的公开价格不是单一的通用输入代币汇率;列出的低费率适用于最多 100,000 个代币的提示,超出此范围的费率更高。这意味着使用计量必须保留提示长度并应用正确的频段。对于粗略的仪表板来说,事后平均成本可能是可以接受的,但对于客户发票、经销商利润或内部退款来说,这种方法就很弱了。
为什么缓存削减很重要
Sonnet 5.5 缓存读取价格的降低表明了模型经济学中更广泛的模式。对于许多代理和编码工作负载,最便宜的请求并不总是发送到最小模型的请求。与重复将完整上下文发送到较小模型相比,具有大量重用缓存上下文的较大模型可能更便宜,或者至少更可预测。
这对于编码代理和长时间运行的助手尤其重要。他们经常携带存储库地图、工具说明、先前的摘要和政策文本。如果缓存读取变得更便宜,路由问题就会从“哪种模型的输入价格最低?”发生变化。 “模型、缓存上下文和任务类型的哪种组合可产生最佳成本质量结果?”
对于平台团队来说,操作结果很明确:令牌记账需要将普通输入令牌与缓存读取分开。将它们混合在一起可能会扭曲利润分析,并使一个工作流程看起来比实际更昂贵。对于AI API经销商运营团队来说,这种区别可以决定客户帐户是否有利可图、定价过低或受到不正确的限制。
谁受到影响
构建代理系统的开发人员是最直接的受众。 Haiku 5.5 为他们提供了另一个候选方案,用于子代理、压缩、结构化提取、搜索结果清理、文档预处理以及在较大工作流程中多次运行的其他任务。如果这些呼叫目前默认转到 Sonnet,那么新模型可能会降低成本,而不会改变可见的产品体验。这仍然需要测试;供应商关于性能和平均节省的声明不应被视为替代特定工作负载的评估。
使用多个Claude访问路径的企业也需要进行清理工作。跨 Anthropic、AWS、Google 云、Azure 和 OpenRouter 式路由器的可用性很有用,但它会产生目录映射问题。采购部门可能更喜欢一个云市场,工程部门可能更喜欢直接Anthropic访问,而网关可能需要跨这两个市场的后备路由。仅模型名称不足以定义路线。
经销商和合作伙伴平台面临着同一问题的更尖锐版本。通过门户购买 Claude 访问权限的客户期望简单的价格和可靠的端点。在此背后,运营商必须处理提供商特定的可用性、提示长度价格范围、缓存读取会计、速率限制差异以及可能的客户特定利润。这正是统一 AI API 结算 的意义不仅仅在于发票合并;它成为决定如何向最终用户展示模型经济学的政策层。
尚不确定的事情
主要的未知因素是实际工作负载中的性能。 Anthropic 将 Haiku 5.5 定位为适合大批量使用的小型、快速模型,这是合理的,但延迟、质量和成本节省可能会因提供商、区域、上下文大小和任务设计而异。 OpenRouter 的 1M 令牌列表也使上下文长度成为集成故事的一部分,但团队仍然需要通过他们选择的提供商路径确认实际限制和行为。
还存在迁移风险。如果团队自动将所有“廉价”工作路由到 Haiku 5.5,他们可能会节省资金,同时降低指令跟踪、多文档综合或工具调用规划等微妙任务的质量。更好的模式是首先移动特定的工作负载类别,衡量输出质量和成本,然后决定更广泛的路由是否合理。
对于Model Gate风格的平台来说,此次发布提醒人们模型目录正在成为定价引擎。添加 Claude Haiku 5.5 不仅仅意味着添加 ID。网关必须公开正确的提供商路由,分别显示缓存和非缓存成本,支持提示长度计费规则,并为团队提供足够的分析以了解其路由策略是否真正有效。