Kong AI Gateway 2.0 rende la governance degli agenti parte del lavoro del gateway

Kong ha reso Kong AI Gateway 2.0 disponibile a livello generale, segnando un altro passo avanti nel passaggio dal semplice proxy LLM a un piano di controllo più ampio per modelli, agenti, strumenti e spesa per l'intelligenza artificiale.

La versione del 1° settembre offre diverse funzionalità importanti per i team che già eseguono carichi di lavoro AI di produzione: MCP Server Bundling per l'accesso regolamentato agli strumenti, gestione dinamica dei costi che tiene conto di diverse modalità, copertura più ampia di modelli e provider, policy AI sensibili all'identità e autenticazione IAM nativa per Amazon Bedrock AgentCore. Kong afferma inoltre che il prodotto è ora disponibile su Kong Konnect senza abilitazione beta.

Questa combinazione è la novità. La categoria del gateway AI non consiste più solo nel prendere una richiesta in stile OpenAI, inoltrarla a un provider e registrare la risposta. Gli acquirenti aziendali desiderano sempre più che il gateway decida chi può chiamare quale modello, quali strumenti può raggiungere un agente, come misurare la spesa e in che modo tali decisioni si associano ai sistemi di identità già utilizzati dall'azienda.

Cosa è cambiato in Kong AI Gateway 2.0

L'aggiunta più notevole è MCP Server Bundling. MCP, o Model Context Protocol, è diventato un modo comune per esporre strumenti e risorse agli agenti IA. Il raggruppamento di server MCP a livello gateway offre ai team della piattaforma un luogo in cui aggregare e governare le connessioni degli strumenti anziché lasciare che ogni team dell'applicazione colleghi e controlli le proprie integrazioni degli agenti.

Questa è una direzione di prodotto significativa. Man mano che gli agenti passano dalle demo ai flussi di lavoro interni, il rischio non è tanto legato al fatto che un modello risponda male a una domanda quanto piuttosto che un modello sia collegato a troppi strumenti con una supervisione insufficiente. Un gateway in grado di pacchettizzare e controllare l'accesso MCP è più vicino al problema operativo: quali agenti possono raggiungere quali sistemi, sotto quale identità e con quali limiti di policy.

Kong ha anche aggiunto una gestione dinamica dei costi sensibile alla modalità. Ciò è importante perché il prezzo dell’intelligenza artificiale non è più un contatore a gettone singolo. Testo, immagine, audio, video, chiamate di strumenti, contesto memorizzato nella cache e modalità di ragionamento possono comportare aspetti economici diversi a seconda del fornitore. Un livello di controllo dei costi che comprende la modalità può fornire ai team limiti e regole di instradamento più accurati rispetto a un contatore di richieste generico.

La versione espande inoltre la copertura di modelli e fornitori e aggiunge policy AI sensibili all'identità. L'autenticazione IAM nativa di Kong per Amazon Bedrock AgentCore è particolarmente rilevante perché Bedrock AgentCore sta diventando uno dei luoghi in cui le aziende gestiscono e gestiscono gli agenti. Collegare la policy del gateway all'identità cloud riduce il divario tra i controlli specifici dell'intelligenza artificiale e i sistemi di accesso già controllati dalle aziende.

Perché questo è importante per gli sviluppatori e i team della piattaforma

Per gli sviluppatori, l'effetto pratico è che il gateway sta diventando parte dell'architettura dell'applicazione, non solo un componente aggiuntivo dell'infrastruttura. Un team che crea un agente di supporto interno, un assistente di codifica o un flusso di lavoro di analisi dei dati potrebbe ora aver bisogno di regole gateway per l'accesso al modello, l'accesso agli strumenti, le soglie di budget e la propagazione dell'identità prima che l'app raggiunga la produzione.

Ciò può aggiungere alcuni costi di configurazione, ma risolve anche una reale modalità di errore. Senza un livello di gateway condiviso, la selezione del modello, le credenziali del fornitore, le autorizzazioni degli strumenti e i controlli della spesa tendono a diffondersi nel codice dell'applicazione, nei segreti CI, nei wrapper SDK e nei dashboard specifici del team. Questa frammentazione rende gli incidenti più difficili da indagare e le migrazioni dei modelli più difficili da eseguire.

Il rilascio di Kong è anche un segnale per i fornitori che creano livelli API compatibili con OpenAI e prodotti API multi-modello. La sola compatibilità sta diventando una posta in gioco. I clienti si aspettano sempre più la governance intorno alla richiesta: applicazione delle policy, analisi dell'utilizzo, accesso a livello di team, controlli del budget, routing di fallback e visibilità del modello/fornitore.

Per gli utenti di Model Gate, la connessione è diretta. La fatturazione unificata, la gestione delle chiavi API, l'analisi dell'utilizzo e i controlli del team diventano tutti più preziosi quando l'accesso al modello è solo una parte del flusso di lavoro. Man mano che gli agenti ottengono l'accesso agli strumenti tramite interfacce in stile MCP, i gateway dovranno rappresentare non solo quale modello è stato chiamato, ma anche quale team, chiave, pacchetto di strumenti e contesto politico sono stati coinvolti.

Il benchmark competitivo sta cambiando

Kong non è il solo in questa direzione. I recenti movimenti nel mercato mostrano che i fornitori di infrastrutture IA convergono sullo stesso problema più ampio: l’intelligenza artificiale aziendale necessita di un percorso governato tra utenti, modelli, agenti, strumenti e spesa. I prodotti Gateway vengono giudicati meno in base alla loro capacità di normalizzare i formati di richiesta e più in base alla loro capacità di supportare i controlli di produzione.

Ciò esercita pressione sugli acquirenti affinché pongano domande più acute. Il gateway comprende i prezzi e le modalità specifici del fornitore? Gli amministratori possono impostare i criteri per team o identità? Può instradare tra i fornitori senza perdere la verificabilità?Può governare gli strumenti dell'agente, non solo modellare gli endpoint? È in grado di esporre i dati sull'utilizzo e sui costi in un modo utilizzabile da finanza, sicurezza e ingegneria?

Queste domande non sono più teoriche. I modelli a contesto lungo, le chiamate agli strumenti degli agenti e i carichi di lavoro multimodali possono modificare rapidamente i profili di costo. Un flusso di lavoro che sembra economico durante i test può diventare costoso quando contesti ripetuti, input di immagini o loop di agenti pesanti entrano in produzione. Un gateway che non è in grado di distinguere questi modelli potrebbe comunque centralizzare l'accesso, ma non darà agli operatori un controllo sufficiente.

Ciò che rimane incerto

L'annuncio stabilisce la disponibilità generale e nomina le funzionalità chiave, ma l'adozione nel mondo reale dipenderà dai dettagli di implementazione: come i team configurano i bundle MCP, quanto sono granulari le policy di riconoscimento dell'identità, come si comportano i controlli sui costi tra fornitori misti e quanta visibilità operativa i clienti ottengono nella pratica.

È anche troppo presto per sapere se le aziende standardizzeranno la governance degli agenti in un unico gateway AI o dividere la responsabilità tra piattaforme cloud, strumenti di sicurezza, piattaforme per sviluppatori e fornitori di osservabilità. AWS, le piattaforme di hosting, i fornitori di IDE e i fornitori di gateway autonomi stanno tutti cercando di possedere parti della stessa superficie di controllo.

Tuttavia, la direzione è chiara. Kong AI Gateway 2.0 tratta il traffico AI come un sistema aziendale governato anziché come un flusso di chiamate modello. Per gli sviluppatori e le aziende che si basano su API modello, ciò significa che le decisioni sul gateway stanno diventando decisioni sull'architettura: influiscono su costi, sicurezza, scelta del modello, accesso agli strumenti e affidabilità dei flussi di lavoro degli agenti.