Kong heeft Kong AI Gateway 2.0 algemeen beschikbaar gemaakt, wat een nieuwe stap markeert in de verschuiving van eenvoudige LLM-proxying naar een breder controlevlak voor modellen, agenten, tools en AI-uitgaven.

De release van 1 september biedt verschillende functies die belangrijk zijn voor teams die al productie-AI-workloads uitvoeren: MCP Server Bundling voor beheerde toegang tot tools, dynamisch kostenbeheer dat rekening houdt met verschillende modaliteiten, bredere model- en providerdekking, identiteitsbewust AI-beleid en native IAM-authenticatie voor Amazon Bedrock AgentCore. Kong zegt ook dat het product nu beschikbaar is in Kong Konnect zonder bèta-inschakeling.

Die combinatie is het nieuws. De categorie AI-gateway gaat niet langer alleen over het aannemen van een OpenAI-achtig verzoek, het doorsturen ervan naar een provider en het loggen van het antwoord. Enterprise-kopers willen steeds vaker dat de gateway bepaalt wie welk model kan aanroepen, welke tools een agent kan bereiken, hoe de uitgaven moeten worden gemeten en hoe deze beslissingen verband houden met identiteitssystemen die al door het bedrijf worden gebruikt.

Wat er is veranderd in Kong AI Gateway 2.0

De meest opvallende toevoeging is MCP Server Bundling. MCP, of Model Context Protocol, is een gebruikelijke manier geworden om tools en middelen aan AI-agenten bloot te stellen. Door MCP-servers op de gateway-laag te bundelen, krijgen platformteams een plek waar ze deze toolverbindingen kunnen samenvoegen en beheren, in plaats van dat elk applicatieteam zijn eigen agent-integraties moet bedraden en controleren.

Dat is een zinvolle productrichting. Naarmate agenten overstappen van demo's naar interne workflows, is het risico minder dat een model één vraag slecht beantwoordt, maar meer dat een model met te veel tools is verbonden en te weinig toezicht heeft. Een gateway die MCP-toegang kan verpakken en controleren, ligt dichter bij het operationele probleem: welke agenten welke systemen kunnen bereiken, onder wiens identiteit en met welke beleidsgrenzen.

Kong voegde ook dynamisch modaliteitsbewust kostenbeheer toe. Dit is van belang omdat AI-prijzen niet langer een enkele tokenmeter zijn. Tekst, beeld, audio, video, tooloproepen, in de cache opgeslagen context en redeneermodi kunnen elk verschillende economische aspecten hebben, afhankelijk van de aanbieder. Een kostenbeheersingslaag die de modaliteit begrijpt, kan teams nauwkeurigere limieten en routeringsregels geven dan een generieke verzoekenteller.

De release breidt ook de dekking van modellen en providers uit en voegt identiteitsbewust AI-beleid toe. De native IAM-authenticatie van Kong voor Amazon Bedrock AgentCore is vooral relevant omdat Bedrock AgentCore een van de plaatsen wordt waar bedrijven agenten runnen en beheren. Door het gatewaybeleid te koppelen aan de cloudidentiteit wordt de kloof kleiner tussen AI-specifieke controles en de toegangssystemen die bedrijven al controleren.

Waarom dit belangrijk is voor ontwikkelaars en platformteams

Voor ontwikkelaars is het praktische effect dat de gateway onderdeel wordt van de applicatiearchitectuur, en niet slechts een add-on voor de infrastructuur. Een team dat een interne ondersteuningsagent, coderingsassistent of data-analyseworkflow opbouwt, heeft nu mogelijk gatewayregels nodig voor modeltoegang, tooltoegang, budgetdrempels en identiteitspropagatie voordat de app productie bereikt.

Dat kan wat installatiekosten met zich meebrengen, maar het pakt ook een echte foutmodus aan. Zonder een gedeelde gatewaylaag hebben modelselectie, providerreferenties, toolmachtigingen en uitgavencontroles de neiging zich te verspreiden over applicatiecode, CI-geheimen, SDK-wrappers en teamspecifieke dashboards. Die fragmentatie maakt incidenten moeilijker te onderzoeken en modelmigraties moeilijker uit te voeren.

De release van Kong is ook een signaal voor leveranciers die OpenAI-compatibele API-lagen en multi-model API-producten bouwen. Alleen compatibiliteit wordt een tafelinzet. Klanten verwachten steeds meer governance rond het verzoek: beleidshandhaving, gebruiksanalyses, toegang op teamniveau, budgetcontroles, fallback-routing en zichtbaarheid van modellen/providers.

Voor Model Gate-gebruikers is de verbinding direct. Uniforme facturering, API-sleutelbeheer, gebruiksanalyses en teamcontroles worden allemaal waardevoller wanneer modeltoegang slechts een deel van de workflow is. Naarmate agenten toegang krijgen tot tools via interfaces in MCP-stijl, zullen gateways niet alleen moeten weergeven welk model werd aangeroepen, maar ook welk team, welke sleutel, welke toolbundel en welke beleidscontext erbij betrokken waren.

De concurrentiebenchmark is aan het veranderen

Kong staat niet alleen in deze richting. Recente bewegingen op de markt laten zien dat leveranciers van AI-infrastructuur zich concentreren op hetzelfde bredere probleem: AI voor ondernemingen heeft een gereguleerd pad nodig tussen gebruikers, modellen, agenten, tools en uitgaven. Gateway-producten worden minder beoordeeld op de vraag of ze aanvraagformaten kunnen normaliseren en meer op de vraag of ze productiecontroles kunnen ondersteunen.

Dat zet kopers onder druk om scherpere vragen te stellen. Begrijpt de gateway providerspecifieke prijzen en modaliteiten? Kunnen beheerders beleid instellen op team of identiteit? Kan het tussen providers worden gerouteerd zonder de controleerbaarheid te verliezen?Kan het agenttools beheren, en niet alleen eindpunten modelleren? Kan het gebruiks- en kostengegevens blootleggen op een manier die de financiële sector, de beveiliging en de techniek allemaal kunnen gebruiken?

Deze vragen zijn niet langer theoretisch. Lange-contextmodellen, hulpprogramma's van agenten en multimodale werklasten kunnen kostenprofielen snel veranderen. Een workflow die er tijdens het testen goedkoop uitziet, kan duur worden wanneer herhaalde context, beeldinvoer of tool-zware agentloops in productie komen. Een gateway die deze patronen niet kan onderscheiden, kan de toegang nog steeds centraliseren, maar zal operators niet voldoende controle geven.

Wat onzeker blijft

De aankondiging vestigt de algemene beschikbaarheid en noemt de belangrijkste mogelijkheden, maar de implementatie in de echte wereld zal afhangen van implementatiedetails: hoe teams MCP-bundels configureren, hoe gedetailleerd het identiteitsbewuste beleid is, hoe kostencontroles zich gedragen bij gemengde providers, en hoeveel operationele zichtbaarheid klanten in de praktijk krijgen.

Het is ook te vroeg om te weten of bedrijven het beheer van agenten zullen standaardiseren in de praktijk. één enkele AI-gateway of verdeel de verantwoordelijkheid over cloudplatforms, beveiligingstools, ontwikkelaarsplatforms en leveranciers van observatiemogelijkheden. AWS, hostingplatforms, IDE-leveranciers en standalone gateway-providers proberen allemaal delen van hetzelfde controleoppervlak te bezitten.

Toch is de richting duidelijk. Kong AI Gateway 2.0 behandelt AI-verkeer als een beheerd bedrijfssysteem in plaats van als een stroom modeloproepen. Voor ontwikkelaars en bedrijven die voortbouwen op model-API's betekent dit dat gateway-beslissingen architectuurbeslissingen worden: ze beïnvloeden de kosten, de beveiliging, de modelkeuze, de toegang tot tools en de betrouwbaarheid van agent-workflows.