OpenAI 将超快模式添加到 GPT-6.1 Sol,将延迟转变为路由层
OpenAI 已在响应 API 中为 GPT-6.1 Sol 添加了超快服务层。这一变化为开发人员在相同型号 ID 下提供了更低延迟的选项,但也为网关、计费系统和数据驻留感知路由带来了新的工作。
阅读新闻 →以读者为中心,涵盖人工智能模型、API、基础设施、开发人员工具以及实践中重要的变化。客户服务公告保留在经过身份验证的帐户区域内。
OpenAI 已在响应 API 中为 GPT-6.1 Sol 添加了超快服务层。这一变化为开发人员在相同型号 ID 下提供了更低延迟的选项,但也为网关、计费系统和数据驻留感知路由带来了新的工作。
阅读新闻 →OpenRouter 发布了模型路由器基准测试和路由器指数,对路由系统的质量、速度和成本进行评分。此举将自动模型选择置于更多公众监督之下,并提高了跨多个人工智能模型路由流量的网关的门槛。
阅读新闻 →Anthropic 推出了 Claude Haiku 5.5,具有较低的每个代币定价、广泛的云可用性以及 OpenRouter 上的 100 万个代币列表,同时还降低了 Claude Sonnet 5.5 缓存读取定价。对于网关和经销商平台,实际工作是目录映射、价格范围处理和工作负载路由,而不仅仅是添加另一个Claude模型。
阅读新闻 →Cloudflare 已向 AI Gateway 添加了 Web Search API beta,让应用程序可以通过可选择的提供商路由实时互联网搜索,同时通过网关记录这些调用并对其进行计费。此次发布使人工智能网关进一步超越了令牌代理,进入了代理使用的外部工具计量领域。
阅读新闻 →Cloudflare AI Gateway 推出了自动路由功能,该功能使用边缘部署的分类器来评估请求复杂性并根据预期输出质量和令牌成本选择模型。此次发布使自动路由成为人工智能网关更加明显的产品界面,对计费、可审计性和开发人员控制产生影响。
阅读新闻 →Databricks 使 Unity Gateway API 普遍可用于管理模型服务、提供者服务和 MCP 服务。该版本将网关管理进一步转移到基础设施即代码和 SDK 工作流程中,对管理 AI 模型和代理工具的平台团队产生了实际影响。
阅读新闻 →Anthropic 为 Claude Messages 中的签名对话压缩块和自动上下文编辑添加了 Beta API 支持。这一变化为开发人员提供了一种更结构化的方式来保持长时间会话的活动,但它也为网关和企业团队带来了新的兼容性、跟踪和计费问题。
阅读新闻 →Cloudflare AI Gateway 现在可以要求提供商凭据并阻止回退到 Cloudflare 管理的统一计费。这一变化将 BYOK 从一项约定转变为一项可执行的网关政策,对试图保持人工智能发票可预测性的经销商、合作伙伴平台和团队产生了真正的影响。
阅读新闻 →DeepSeek V4.1 Flash 现已在 API 上上线,具有本机多模式支持、新定价和来自 V4-Pro 的临时重新路由。对于网关团队来说,此次发布并不是关于添加一个模型行,而是更多关于处理别名、替换和面向客户的计费清晰度。
阅读新闻 →OpenRouter 添加了美国区域内 API 基本 URL,该 URL 将解密的请求保留在美国境内,并仅将它们路由到美国提供商端点。此次发布使区域成为多模型人工智能应用程序的一流路由选择,而不是一个单独的集成项目。
阅读新闻 →OpenRouter 引入了托管 shell 执行工具和用于工具调用模型的文件 API,按沙箱运行时而不是单独的代币定价。该测试版扩展了多模型网关必须计量、管理并向构建代理的开发人员解释的内容。
阅读新闻 →Cloudflare AI Gateway 现在允许开发人员在自定义成本标头中传递单独的缓存读取和缓存写入令牌率。这一变化对于网关团队来说很重要,因为在不扭曲利润和客户分析的情况下,缓存代币经济学不能再被视为普通的输入代币计费。
阅读新闻 →