Fireworks AI 增加了后台定价、更快的推理和企业治理
Fireworks AI 引入了半价后台推理模式、超快层、更长的提示缓存和新的治理工具。这些版本使工作负载的紧迫性、可审计性和部署位置成为人工智能路由和计费的更明确的部分。
阅读新闻 →以读者为中心,涵盖人工智能模型、API、基础设施、开发人员工具以及实践中重要的变化。客户服务公告保留在经过身份验证的帐户区域内。
Fireworks AI 引入了半价后台推理模式、超快层、更长的提示缓存和新的治理工具。这些版本使工作负载的紧迫性、可审计性和部署位置成为人工智能路由和计费的更明确的部分。
阅读新闻 →OpenAI 现在记录了一种自动化工作负载将外部云和平台身份交换为短期访问令牌的方法,减少了对存储的 API 密钥的依赖,同时为工程团队、网关和经销商添加了新的身份策略工作。
阅读新闻 →Snowflake 已将 Cortex AI 网关推理、可观测性和成本管理移至通用版本,为企业在其数据平台内提供受管理的模型端点,并提高了独立多模型网关的标准。
阅读新闻 →GitHub 正在通过使用资助安排在 GitHub 个企业许可证中提供 Copilot。该产品取消了单独的席位访问决策,但大多数人工智能功能仍然取决于第一个请求的企业预算。
阅读新闻 →GitHub 为 Copilot SDK 应用程序引入了服务器到服务器身份验证,允许 GitHub 应用程序使用短期安装令牌,同时将使用情况和成本归因于组织。尽管每个应用程序的预算控制仍然有限,但预览版消除了借用开发人员身份的需要。
阅读新闻 →Anthropic 引入了测试版组织级 API,用于按模型、工作区、API 密钥和参与者检索 Claude 使用情况和成本数据。新界面可以改善网关和经销商的退款和对账,尽管其测试状态和迁移要求需要谨慎。
阅读新闻 →GitHubCopilot Fusion 现已全面推出,将模型选择、级联和批评工作流程引入 IDE。其按模型计费和本地云预览带来了有关成本控制、路由透明度和企业策略的实际问题。
阅读新闻 →OpenAI 已通过其响应和聊天完成 API 以每百万输入令牌 1 美元和每百万输出令牌 5 美元的价格发布了 GPT-6.1 Terra。该模型为网关运营商提供了新的性价比选择,但缓存输入会计、计算机使用成本和阿联酋居住限制需要的不仅仅是简单的目录更新。
阅读新闻 →Google 在 Gemini API 中推出了 Gemini 4 Argon,并在 11 月 30 日之前提供介绍性代币定价。对于 API 网关和企业团队来说,该版本不仅仅是一个新的模型行:它改变了 Google、GitHub Copilot 和 Vercel AI Gateway 界面的目录管理、缓存感知计费、路由策略和评估工作。
阅读新闻 →Google 已弃用 Gemini 3.7 Flash 和 Gemini 3.5 Flash API slugs,并自动将请求路由到较新的替代版本。对于 API 网关和开发人员团队来说,变化与其说是模型目录更新,不如说是日志、发票和评估是否可以显示所请求的内容与实际满足请求的内容。
阅读新闻 →Cloudflare AI Gateway 标准化了报告被拒绝的提供商凭据的方式,将以前看起来像上游服务器错误的一些故障更改为显式 401 响应。此次更新为网关运营商、BYOK 产品和经销商仪表板提供了针对无效密钥与提供商或计费中断的更清晰的信号。
阅读新闻 →OpenAI 已发布公开测试版决策 API,用于使用 GPT-6 Luna 进行类型化、低延迟分类式调用。新端点不仅仅是另一个型号列表:它为网关、分析系统和经销商平台提供了单独的工作负载类型来路由、计量和记录。
阅读新闻 →