Kong направи Kong AI Gateway 2.0 общодостъпен, отбелязвайки още една стъпка в преминаването от просто LLM прокси към по-широка контролна равнина за модели, агенти, инструменти и разходи за AI.

Изданието от 1 септември носи няколко функции, които са от значение за екипите, които вече изпълняват производствени работни натоварвания на AI: MCP Server Bundling за управляван достъп до инструменти, динамично управление на разходите, което отчита различни модалности, по-широк модел и доставчик покритие, политики за изкуствен интелект, които познават самоличността, и естествено IAM удостоверяване за Amazon Bedrock AgentCore. Kong също казва, че продуктът вече е наличен в Kong Konnect без бета активиране.

Тази комбинация е новината. Категорията AI gateway вече не е само за приемане на заявка в стил OpenAI, препращането й към доставчик и регистриране на отговора. Корпоративните купувачи все повече искат шлюзът да решава кой може да се обади на кой модел, до кои инструменти може да достигне даден агент, как трябва да се измерват разходите и как тези решения се съпоставят със системите за идентичност, които вече се използват от бизнеса.

Какво се промени в Kong AI Gateway 2.0

Най-забележителното допълнение е MCP Server Bundling. MCP или Model Context Protocol се превърна в обичаен начин за излагане на инструменти и ресурси на AI агенти. Обединяването на MCP сървъри в слоя на шлюза дава на екипите на платформата място за агрегиране и управление на тези връзки с инструменти, вместо да оставя всеки екип на приложението да свързва и контролира своите собствени интеграции на агенти.

Това е значима продуктова посока. Тъй като агентите преминават от демонстрации към вътрешни работни потоци, рискът е по-малък моделът да отговори лошо на един въпрос и повече моделът да бъде свързан с твърде много инструменти с твърде малко надзор. Шлюз, който може да пакетира и контролира достъпа до MCP, е по-близо до оперативния проблем: кои агенти могат да достигнат до кои системи, под чия самоличност и с какви граници на политиката.

Kong също добави динамично управление на разходите, съобразено с модалността. Това има значение, тъй като ценообразуването на AI вече не е измервател на един жетон. Текст, изображение, аудио, видео, извиквания на инструменти, кеширан контекст и режими на разсъждение могат да носят различна икономика в зависимост от доставчика. Слой за контрол на разходите, който разбира модалността, може да даде на екипите по-точни лимити и правила за маршрутизиране, отколкото общ брояч на заявки.

Изданието също така разширява покритието на модела и доставчика и добавя политики за ИИ, които познават самоличността. Родното IAM удостоверяване на Kong за Amazon Bedrock AgentCore е особено подходящо, защото Bedrock AgentCore се превръща в едно от местата, където предприятията управляват и управляват агенти. Свързването на политиката за шлюз с идентичността в облака намалява разликата между специфичните за AI контроли и системите за достъп, които компаниите вече одитират.

Защо това има значение за разработчиците и екипите на платформата

За разработчиците практическият ефект е, че шлюзът става част от архитектурата на приложението, а не просто инфраструктурна добавка. Екип, който изгражда вътрешен агент за поддръжка, асистент за кодиране или работен процес за анализ на данни, може сега да се нуждае от правила за шлюз за достъп до модела, достъп до инструменти, бюджетни прагове и разпространение на самоличността, преди приложението да достигне производство.

Това може да добави някои разходи за настройка, но също така адресира реален режим на повреда. Без споделен слой на шлюза, изборът на модел, идентификационните данни на доставчика, разрешенията за инструменти и контролите на разходите са склонни да се разпространяват в кода на приложението, CI тайните, обвивките на SDK и специфичните за екипа табла за управление. Тази фрагментация прави инцидентите по-трудни за разследване и миграциите на модела по-трудни за изпълнение.

Издаването на Kong също е сигнал за доставчиците, които изграждат OpenAI-съвместими API слоеве и многомоделни API продукти. Само съвместимостта се превръща в залог на масата. Клиентите все повече очакват управление около заявката: прилагане на политиката, анализ на използването, достъп на ниво екип, контрол на бюджета, резервно маршрутизиране и видимост на модел/доставчик.

За потребителите на Model Gate връзката е директна. Унифицираното таксуване, управлението на API ключове, анализите на използването и екипните контроли стават по-ценни, когато достъпът до модела е само една част от работния процес. Тъй като агентите получават достъп до инструменти чрез интерфейси в стил MCP, шлюзовете ще трябва да представят не само кой модел е бил извикан, но и кой екип, ключ, пакет инструменти и контекст на правилата са включени.

Конкурентният бенчмарк се променя

Kong не е сам в тази посока. Скорошните ходове на пазара показват, че доставчиците на AI инфраструктура се сближават с един и същ по-широк проблем: корпоративният AI се нуждае от управляван път между потребители, модели, агенти, инструменти и разходи. Продуктите на Gateway се оценяват по-малко по това дали могат да нормализират форматите на заявките и повече по това дали могат да поддържат производствен контрол.

Това оказва натиск върху купувачите да задават по-остри въпроси. Шлюзът разбира ли специфичните за доставчика цени и условия? Могат ли администраторите да задават политика по екип или самоличност? Може ли да маршрутизира между доставчици, без да губи възможността за проверка?Може ли да управлява агентски инструменти, а не само да моделира крайни точки? Може ли да разкрие данните за употребата и разходите по начин, който могат да използват финансите, сигурността и инженерството?

Тези въпроси вече не са теоретични. Моделите с дълъг контекст, извикванията на агентски инструменти и мултимодалните работни натоварвания могат бързо да променят профилите на разходите. Работен процес, който изглежда евтин по време на тестването, може да стане скъп, когато повтарящи се контексти, въвеждане на изображения или цикли на агенти, натоварени с инструменти, влязат в производството. Шлюз, който не може да разграничи тези модели, все пак може да централизира достъпа, но няма да даде на операторите достатъчно контрол.

Какво остава несигурно

Съобщението установява обща наличност и назовава ключовите възможности, но приемането в реалния свят ще зависи от подробностите за внедряването: как екипите конфигурират MCP пакети, колко детайлни са политиките за самоличност, как се държат контролите на разходите при смесени доставчици и колко оперативна видимост, която клиентите получават на практика.

Също така е твърде рано да се знае дали предприятията ще стандартизират управлението на агенти в един AI gateway или ще разделят отговорността между облачни платформи, инструменти за сигурност, платформи за разработчици и доставчици на наблюдаемост. AWS, хостинг платформи, доставчици на IDE и доставчици на самостоятелни шлюзове се опитват да притежават части от една и съща контролна повърхност.

Все пак посоката е ясна. Kong AI Gateway 2.0 третира AI трафика като управлявана корпоративна система, а не като поток от моделни повиквания. За разработчиците и фирмите, които изграждат API на модели, това означава, че решенията за шлюз се превръщат в архитектурни решения: те засягат цената, сигурността, избора на модел, достъпа до инструменти и надеждността на работните процеси на агентите.