Kong ha fet que Kong AI Gateway 2.0 estigui disponible de manera general, marcant un pas més en el canvi de la simple proxy LLM cap a un pla de control més ampli per a models, agents, eines i despeses d'IA.
La versió de l'1 de setembre ofereix diverses funcions que importen als equips que ja utilitzen càrregues de treball d'IA de producció: MCP Server Bundling per a diferents eines de gestió de costos i models dinàmics de gestió i gestió de comptes, models de comptes i modalitats de gestió dinàmiques. cobertura, polítiques d'IA conscients de la identitat i autenticació IAM nativa per a Amazon Bedrock AgentCore. Kong també diu que el producte ja està disponible a Kong Konnect sense activació beta.
Aquesta combinació és la notícia. La categoria de passarel·la AI ja no consisteix només en acceptar una sol·licitud d'estil OpenAI, reenviar-la a un proveïdor i registrar la resposta. Cada cop més, els compradors empresarials volen que la passarel·la decideixi qui pot trucar a quin model, a quines eines pot arribar un agent, com s'ha de mesurar la despesa i com aquestes decisions s'assignen als sistemes d'identitat que ja utilitza l'empresa.
El que va canviar a Kong AI Gateway 2.0
L'addició més destacada és MCP Server Bundling. MCP, o Model Context Protocol, s'ha convertit en una manera habitual d'exposar eines i recursos als agents d'IA. L'agrupació de servidors MCP a la capa de passarel·la ofereix als equips de la plataforma un lloc per agregar i governar aquestes connexions d'eines en lloc de deixar que cada equip d'aplicacions connecti i controli les seves pròpies integracions d'agents.
Aquesta és una direcció de producte significativa. A mesura que els agents passen de les demostracions als fluxos de treball interns, el risc és menys que un model respongui malament a una pregunta i més que un model estigui connectat a massa eines amb massa poca supervisió. Una passarel·la que pot empaquetar i controlar l'accés a l'MCP s'acosta més al problema operatiu: quins agents poden arribar a quins sistemes, amb la identitat dels quals i amb quins límits de política.
Kong també va afegir una gestió de costos dinàmica conscient de la modalitat. Això és important perquè els preus de l'IA ja no són un únic comptador de testimonis. El text, la imatge, l'àudio, el vídeo, les trucades d'eines, el context en memòria cau i els modes de raonament poden comportar diferents economia segons el proveïdor. Una capa de control de costos que entén la modalitat pot oferir als equips límits i regles d'encaminament més precisos que un comptador de sol·licituds genèric.
La versió també amplia la cobertura del model i del proveïdor i afegeix polítiques d'IA conscients de la identitat. L'autenticació IAM nativa de Kong per a Amazon Bedrock AgentCore és especialment rellevant perquè Bedrock AgentCore s'està convertint en un dels llocs on les empreses executen i gestionen agents. Connectar la política de passarel·la a la identitat del núvol redueix la distància entre els controls específics de la IA i les empreses de sistemes d'accés que ja auditen.
Per què això és important per als desenvolupadors i els equips de la plataforma
Per als desenvolupadors, l'efecte pràctic és que la passarel·la s'està convertint en part de l'arquitectura de l'aplicació, no només en un complement d'infraestructura. Un equip que crea un agent de suport intern, un assistent de codificació o un flux de treball d'anàlisi de dades ara pot necessitar regles de passarel·la per a l'accés al model, l'accés a l'eina, els llindars pressupostaris i la propagació d'identitats abans que l'aplicació arribi a la producció.
Això pot afegir un cost de configuració, però també soluciona un mode de fallada real. Sense una capa de passarel·la compartida, la selecció de models, les credencials del proveïdor, els permisos d'eines i els controls de despesa tendeixen a estendre's pel codi d'aplicació, secrets CI, embolcalls SDK i taulers de control específics de l'equip. Aquesta fragmentació fa que els incidents siguin més difícils d'investigar i les migracions de models més difícils d'executar.
El llançament de Kong també és un senyal per als venedors que creen capes d'API compatibles amb OpenAI i productes d'API multimodel. Només la compatibilitat s'està convertint en un joc de taula. Els clients esperen cada cop més govern al voltant de la sol·licitud: aplicació de polítiques, anàlisi d'ús, accés a nivell d'equip, controls pressupostaris, encaminament alternatiu i visibilitat del model/proveïdor.
Per als usuaris de Model Gate, la connexió és directa. La facturació unificada, la gestió de claus API, l'anàlisi d'ús i els controls d'equip es tornen més valuosos quan l'accés al model és només una part del flux de treball. A mesura que els agents tinguin accés a les eines a través d'interfícies d'estil MCP, les passarel·les hauran de representar no només quin model s'ha cridat, sinó també quin equip, clau, paquet d'eines i context de polítiques s'han implicat.
El punt de referència competitiu està canviant
Kong no està sol en aquesta direcció. Els moviments recents al mercat mostren que els proveïdors d'infraestructures d'IA convergeixen en el mateix problema més ampli: l'IA empresarial necessita un camí governat entre usuaris, models, agents, eines i despeses. Els productes de passarel·la es jutgen menys per si poden normalitzar els formats de sol·licitud i més per si són compatibles amb els controls de producció.
Això pressiona els compradors perquè facin preguntes més clares. La passarel·la entén els preus i les modalitats específics del proveïdor? Els administradors poden establir polítiques per equip o identitat? Es pot encaminar entre proveïdors sense perdre l'auditabilitat?Pot governar les eines d'agent, no només els punts finals del model? Pot exposar les dades d'ús i de costos d'una manera que les finances, la seguretat i l'enginyeria poden utilitzar?
Aquestes preguntes ja no són teòriques. Els models de context llarg, les trucades d'eines d'agent i les càrregues de treball multimodals poden canviar els perfils de costos ràpidament. Un flux de treball que sembla barat durant les proves pot arribar a ser car quan el context repetit, les entrades d'imatge o els bucles d'agent pesats en eines entren en producció. Una passarel·la que no pugui distingir aquests patrons encara pot centralitzar l'accés, però no donarà als operadors el control suficient.
El que segueix sent incert
L'anunci estableix la disponibilitat general i anomena les capacitats clau, però l'adopció al món real dependrà dels detalls d'implementació: com configuren els equips MCP, quina granularitat són les polítiques de control d'identitat i quina mesura són les polítiques de control d'identitat, quant a la mescla de costos i les polítiques d'operació. visibilitat que els clients tenen a la pràctica.
També és massa aviat per saber si les empreses estandarditzaran el govern dels agents en una única passarel·la d'IA o dividiran la responsabilitat entre plataformes de núvol, eines de seguretat, plataformes de desenvolupadors i proveïdors d'observabilitat. AWS, plataformes d'allotjament, proveïdors d'IDE i proveïdors de passarel·les autònoms intenten posseir parts de la mateixa superfície de control.
Tot i així, la direcció és clara. Kong AI Gateway 2.0 tracta el trànsit d'IA com un sistema empresarial governat en lloc d'un flux de trucades de model. Per als desenvolupadors i les empreses que es basen en API de models, això significa que les decisions de passarel·la s'estan convertint en decisions d'arquitectura: afecten el cost, la seguretat, l'elecció del model, l'accés a les eines i la fiabilitat dels fluxos de treball dels agents.