Mistral は、Studio をモデル構築ワークスペースからエージェント ランタイムに拡張しています。 11 月 5 日の発表で、同社は、永続的なワークフロー実行、HTTP コネクタ、Webhook、トレースおよび評価ツールとともに、パブリック プレビューでマネージド エージェントを導入しました。

エージェントが何時間も実行され、承認のために一時停止したり、クラッシュ後に再開したりすると、同期チャット リクエストとは異なるインフラストラクチャの問題が発生するため、この移行は重要です。チームは現在、モデル トークンとともに、実行状態、ツール呼び出し、資格情報、再試行、人間の決定を考慮する必要があります。

管理対象エージェントは永続的に設計されています

Mistral によれば、開発者はエージェントを一度定義すれば、ローカル、自己ホスト環境、または Mistral 管理の展開を通じて実行できるとのことです。管理された実行は、数時間または数日間継続し、クラッシュ後に再開し、人間の承認を待っている間に一時停止することができます。

そのため、実行記録は最終的な答えと同じくらい重要になります。運用システムは、どのユーザーまたはサービスがジョブを開始したか、どのモデルが各ステップを処理したか、どのツールが呼び出されたか、どのような承認が与えられたか、再試行によって追加のプロバイダーコストが発生したかどうかを知る必要があります。 1 つのジョブが複数のモデルとツールの操作に展開されると、単一のリクエスト ID では十分ではなくなる可能性があります。

チーム用のマルチモデル API ゲートウェイを運用しているチームの場合、これによりより広いルーティング サーフェスが作成されます。ルーティング ポリシーでは、タスクが対話型か永続的か、低コスト モデルを待機できるかどうか、特定のプロバイダが必要なツール、リージョン、または実行有効期間をサポートしているかどうかを考慮する必要がある場合があります。

HTTP コネクタにより統合境界が広がります

このリリースでは、MCP サーバーを必要としない HTTP API コネクタも追加されています。ミストラル氏は、これらのコネクタを、自然言語命令からワークフローを生成し、外部サービスを呼び出し、Webhook を使用して実行イベントを他のシステムに接続できるワークフロー システムの一部として説明しています。

これは、内部ツールが MCP インターフェイスではなく従来の REST エンドポイントを公開している組織にとって便利です。また、セキュリティと運用の負担も増加します。コネクタの資格情報には、テナントの分離、制御されたスコープ、ローテーション、および監査証跡が必要です。再試行では、特にワークフローが中断後に再開できる場合には、安全な繰り返しと重複した副作用を区別する必要があります。

Webhook では、別の運用コントラクトが導入されます。受信者には、認証、リプレイ保護、イベント順序付けルール、および見逃した通知と権限のある実行状態を調整する方法が必要です。これらの要件は、エージェントのジョブを複数の顧客に公開する AI API 販売代理店プラットフォーム に直接関連しています。顧客は自分のイベントのみを参照する必要がありますが、プラットフォームは障害を調査し、使用状況を調整するために十分な詳細を保持する必要があります。

評価はランタイムの一部になります

Mistral は、同じ Studio サーフェスにトレース機能とオンラインおよびオフラインの評価機能を追加しています。実際的な重要性は、チームがモデルから返されたテキスト以上のものを評価できることです。ツールの選択、中間ステップ、ワークフローの完了、人間による承認チェックポイントの影響を検査できます。

これにより、ゲートウェイとリセラーはワークロード レベルの会計を推進する可能性があります。顧客が 1 つのエージェント エンドポイントを認識している場合でも、モデル推論、外部ツール呼び出し、ワークフロー ランタイム、およびホスト型オーケストレーションには、個別の使用状況のディメンションが必要になる場合があります。入力トークンと出力トークンのみを含む請求レコードでは、長時間実行されるジョブのコストを十分に説明できません。

また、ガバナンスの問題も生じます。評価トレースには、プロンプト、取得したデータ、ツールの引数、および接続されたシステムからの出力が含まれる可能性があります。組織には、最終的な対応だけでなく、トレースをカバーする保持ポリシーとアクセス ポリシーが必要になります。Model Gate の場合、関連する製品の境界は、モデル リクエストの単純なプロキシではなく、テナントを意識したルーティング、顧客使用状況の測定、永続的な実行レコードの組み合わせです。

不明な点は何ですか

Mistral は、レビューされた発表の中で、長時間実行の管理された実行に対する実稼働グレードのサービス レベルの保証を確立していません。管理対象エージェント機能の価格と詳細なクォータ制限も特定されていません。これらの詳細によって、サービスが無人の運用ワークロードに適しているか、主に開発および制御されたパイロットに適しているかが決まります。

展開モード全体での可用性も未解決の問題です。エージェントを一度定義し、ローカル、セルフホスト、または Mistral が管理するインフラストラクチャを通じて実行することは魅力的ですが、互換性はコネクタ、資格情報、実行時の状態、および評価機能に依存する可能性があります。開発者は、環境を交換可能として扱う前に、障害回復、承認の一時停止、Webhook 配信、アカウンティング動作をテストする必要があります。