Kong 已全面推出 Kong AI Gateway 2.0,标志着从简单的 LLM 代理向更广泛的模型、代理、工具和 AI 支出控制平面的转变又迈出了一步。
9 月 1 日发布的版本带来了多项对已经运行生产 AI 工作负载的团队非常重要的功能:用于受控工具访问的 MCP 服务器捆绑、考虑不同模式的动态成本管理、更广泛的模型和提供商覆盖范围、身份感知 AI 策略以及 Amazon Bedrock AgentCore 的本机 IAM 身份验证。 Kong 还表示,该产品现已在 Kong Konnect 上提供,无需启用测试版。
这种组合就是新闻。 AI 网关类别不再仅仅涉及接受 OpenAI 式请求、将其转发给提供商并记录响应。企业买家越来越希望网关能够决定谁可以调用哪个模型、代理可以使用哪些工具、如何衡量支出,以及如何将这些决策映射到企业已使用的身份系统。
Kong AI Gateway 2.0 中的变化
最值得注意的新增功能是 MCP 服务器捆绑。 MCP(即模型上下文协议)已成为向 AI 代理公开工具和资源的常用方式。在网关层捆绑 MCP 服务器为平台团队提供了一个聚合和管理这些工具连接的地方,而不是让每个应用程序团队来连接和管理自己的代理集成。
这是一个有意义的产品方向。随着代理从演示转向内部工作流程,风险不再是模型回答某个问题的问题,而是模型连接到太多工具而监管太少。可以打包和控制 MCP 访问的网关更接近操作问题:哪些代理可以以谁的身份以及采用哪些策略边界访问哪些系统。
Kong 还添加了动态模态感知成本管理。这很重要,因为人工智能定价不再是单一的代币计量表。文本、图像、音频、视频、工具调用、缓存上下文和推理模式都可以根据提供商的不同带来不同的经济效益。与通用请求计数器相比,了解模态的成本控制层可以为团队提供更准确的限制和路由规则。
该版本还扩大了模型和提供商的覆盖范围,并添加了身份感知人工智能策略。 Kong 针对 Amazon Bedrock AgentCore 的本机 IAM 身份验证尤其重要,因为 Bedrock AgentCore 正在成为企业运行和管理代理的地方之一。将网关策略连接到云身份可以缩小人工智能特定控制与公司已经审核的访问系统之间的差距。
为什么这对开发人员和平台团队很重要
对于开发人员来说,实际效果是网关正在成为应用程序架构的一部分,而不仅仅是基础设施附加组件。在应用程序投入生产之前,构建内部支持代理、编码助理或数据分析工作流程的团队现在可能需要用于模型访问、工具访问、预算阈值和身份传播的网关规则。
这可能会增加一些设置成本,但也解决了真正的故障模式。如果没有共享网关层,模型选择、提供商凭证、工具权限和支出控制往往会分布在应用程序代码、CI 机密、SDK 包装器和特定于团队的仪表板中。这种碎片化使得事件更难调查,模型迁移更难执行。
Kong 的发布也向构建 OpenAI 兼容 API 层和多模型 API 产品的供应商发出了一个信号。兼容性本身正在成为赌注。客户越来越期望围绕请求进行治理:策略执行、使用情况分析、团队级访问、预算控制、后备路由和模型/提供商可见性。
对于 Model Gate 用户来说,连接是直接的。当模型访问只是工作流程的一部分时,统一计费、API 密钥管理、使用情况分析和团队控制都变得更有价值。随着代理通过 MCP 风格的接口获得工具访问权限,网关不仅需要表示调用了哪个模型,还需要表示涉及哪个团队、密钥、工具包和策略上下文。
竞争基准正在发生变化
Kong 并不是唯一一个朝这个方向发展的人。市场上最近的举动表明,人工智能基础设施供应商正在解决同一个更广泛的问题:企业人工智能需要用户、模型、代理、工具和支出之间的受控路径。人们对网关产品的评判标准不再是其是否能够规范化请求格式,而是更多地是其是否能够支持生产控制。
这给买家带来了提出更尖锐问题的压力。网关是否了解提供商特定的定价和模式?管理员可以按团队或身份设置策略吗?它可以在不失去可审计性的情况下跨提供商路由吗?它可以管理代理工具,而不仅仅是模型端点吗?它能否以财务、安全和工程都可以使用的方式公开使用情况和成本数据?
这些问题不再是理论问题。长上下文模型、代理工具调用和多模式工作负载可以快速改变成本状况。当重复的上下文、图像输入或工具密集型代理循环进入生产时,在测试期间看起来便宜的工作流程可能会变得昂贵。无法区分这些模式的网关可能仍会集中访问,但无法为运营商提供足够的控制权。
仍然不确定
该公告确定了普遍可用性并命名了关键功能,但实际采用将取决于实施细节:团队如何配置 MCP 捆绑包、身份感知策略的粒度如何、跨混合提供商的成本控制如何运作以及客户在实践中获得多少运营可见性。
现在判断企业是否会将代理标准化还为时过早单一人工智能网关中的治理或跨云平台、安全工具、开发者平台和可观测性供应商的责任划分。 AWS、托管平台、IDE 供应商和独立网关提供商都在尝试拥有同一控制界面的一部分。
不过,方向是明确的。 Kong AI Gateway 2.0将AI流量视为受治理的企业系统,而不是模型调用流。对于基于模型 API 构建的开发人员和企业来说,这意味着网关决策正在成为架构决策:它们影响成本、安全性、模型选择、工具访问和代理工作流程的可靠性。