OpenRouter 添加了测试版托管 shell 执行工具和文件 API,为开发人员提供了一种让工具调用模型通过 OpenRouter 的路由层在隔离的 Linux 容器中运行命令的方法。该版本不仅仅是另一个代理功能。它改变了多模型人工智能基础设施的会计模型:请求现在可以包括模型令牌、工具执行时间、文件处理和跨多种 API 风格的兼容性行为。
名为openrouter:shell的新服务器工具允许支持的模型在托管容器中执行命令并返回标准执行结果,包括stdout、stderr和退出代码。 OpenRouter 表示,该工具通过其 Responses API 路径和 Anthropic Messages API 兼容性路径工作,这一点很重要,因为开发人员越来越多地尝试保持代理实现在模型提供者之间的可移植性,而不是将每个工作流绑定到一个供应商的本机工具接口。
OpenRouter 沙箱的定价为每秒 0.0001 美元,作为请求的一部分计费。测试期间包含文件 API 的使用。这创建了与普通输入和输出令牌不同的成本维度,并为网关运营商提供了一个具体示例,说明为什么统一 AI API 计费变得比对模型令牌费用求和变得更加困难。
发生了什么变化
直到最近,托管代码执行通常与特定于提供商的代理堆栈相关联,或者要求开发人员操作自己的沙箱队列。 OpenRouter 的测试版将该功能插入到已用于访问许多模型的路由平台中。实际上,代理可以要求模型检查数据、运行脚本、操作文件或测试小段代码,而无需应用程序团队直接为每次运行配置容器。
兼容性细节很重要。 OpenRouter 并不将 shell 工具定位为某个模型系列的功能,而是将其定位为可通过熟悉的 API 模式使用的平台级工具界面。对于针对 OpenAI 风格的响应语义或 Anthropic 风格的消息语义构建的团队来说,托管工具可以位于比模型层更靠近网关层的位置。
这并不能使工具行为神奇地统一。不同的模型在调用工具、从故障中恢复、命令输出推理和管理文件的方式上有所不同。但基础设施决策正在发生变化。现在,开发人员不再只询问哪个模型可以编写 shell 命令,而是必须询问哪个网关可以安全地执行它、计量它并以客户端已经理解的 API 形式返回结果。
为什么运行时计量很重要
令牌定价不再足以描述代理请求的成本。单个用户操作可能涉及提示、多次模型转换、文件上传、shell 执行、重试和最终总结。昂贵的部分可能是模型输出,或者可能是产生很少文本的长时间运行的命令。 OpenRouter 的每秒沙箱价格使这种区别变得明确。
对于开发者来说,直接的后果就是预算设计。代理循环需要对命令持续时间、重试行为和文件保留假设进行限制。即使令牌使用量仍然不大,看似无害的请求扩展为重复的 shell 调用也可能会累积运行时费用。日志记录不仅需要显示模型、提供者和令牌计数,还需要显示工具名称、执行持续时间、退出状态以及模型是否在错误后重试。
对于建立在模型网关之上的企业来说,这一变化涉及利润和客户报告。转售人工智能自动化的合作伙伴产品无法将每个请求都视为带有标记的文本完成。它需要一个使用分类账,可以将模型成本和托管工具成本归因于正确的工作区、最终客户或 API 密钥。这与合作伙伴 API 自动化直接相关,下游客户可能永远不会看到 OpenRouter 的原始发票,但仍然期望获得一致的账单。
谁受到影响
第一个受影响的群体是代理开发人员,他们希望执行代码而不承诺使用某个模型提供商的完整代理平台。 OpenRouter 的方法可能会吸引那些已经跨模型路由流量并希望添加 shell 访问同时保留模型选择的一定灵活性的团队。
第二组是平台和网关团队。他们现在必须决定托管工具是否是一流的目录项,是否可以为每个工作区启用它们,以及它们的成本如何显示在仪表板中。模型目录行可能需要与工具可用性、运行时间限制和兼容性说明配对。访问控制可能需要区分允许模型调用和允许该调用启动容器。
第三组是管理人工智能支出的财务和运营团队。仅限于代币的使用分析将错过越来越多的代理基础设施成本。有用的 AI API 使用情况分析仪表板应显示峰值是否来自模型选择、代币数量、沙箱运行时或导致额外工具调用的工作流程设计更改。
仍不确定的事情
测试版留下了几个实际问题。 OpenRouter 表示,在测试期间,文件 API 的使用包含在 shell 工具中,但长期文件定价、保留规则和操作限制对于生产工作负载可能仍然很重要。开发人员还需要测试哪些模型可以在受支持的 API 兼容性路径上使用 shell 工具可靠地执行。
安全性是买家面临的另一个未解决的实施问题。 OpenRouter 将这些命令描述为在隔离的托管 Linux 容器中运行,但在通过托管执行环境发送敏感工作负载之前,企业仍然会询问网络访问、软件包安装、文件持久性、审核日志和数据处理。
不过,更广泛的方向是明确的:网关正在吸收更多的代理运行时。模型路由过去意味着选择发送提示的位置。现在它越来越多地包括工具语义、文件状态、执行策略和非令牌计量。 OpenRouter 的 shell beta 是一个有用的标记,因为它为许多代理构建者视为后台基础设施的功能附加了明确的价格。一旦执行时间出现在账单上,它就成为产品架构的一部分。