Kong zpřístupnil Kong AI Gateway 2.0 jako další krok v posunu od jednoduchého LLM proxy k širší rovině ovládání pro modely, agenty, nástroje a výdaje na AI.

Vydání z 1. září přináší několik funkcí, které jsou důležité pro týmy, které již provozují produkční úlohy AI: MCP Server Bundling pro řízený široký přístup k nástrojům, dynamickou správu nákladů, která zohledňuje různé modely, identitu a modality poskytovatele IAM softwaru. ověřování pro Amazon Bedrock AgentCore. Kong také říká, že produkt je nyní dostupný v Kong Konnect bez povolení beta.

Tato kombinace je novinka. Kategorie brány AI již není jen o přijetí požadavku ve stylu OpenAI, jeho předání poskytovateli a zaznamenání odpovědi. Podnikoví kupující stále více chtějí, aby brána rozhodovala o tom, kdo může volat kterému modelu, jaké nástroje může agent dosáhnout, jak by se měly měřit výdaje a jak se tato rozhodnutí mapují na systémy identit, které již firma používá.

Co se změnilo v Kong AI Gateway 2.0

Nejpozoruhodnějším přírůstkem je MCP Server Bundling. MCP nebo Model Context Protocol se stal běžným způsobem, jak vystavit nástroje a zdroje agentům AI. Sdružování serverů MCP na vrstvě brány dává týmům platforem místo, kde mohou agregovat a řídit tato propojení nástrojů, než aby každý aplikační tým nechával propojovat a hlídat své vlastní integrace agentů.

To je smysluplný směr produktu. Jak agenti přecházejí z ukázek do interních pracovních postupů, je menší riziko, že model odpoví špatně na jednu otázku, ale spíše to, že model bude připojen k příliš mnoha nástrojům s příliš malým dohledem. Brána, která dokáže zabalit a řídit přístup k MCP, je blíže k provoznímu problému: kteří agenti se mohou dostat ke kterým systémům, pod čí identitou a s jakými hranicemi politiky.

Kong také přidal dynamické řízení nákladů s ohledem na modalitu. To je důležité, protože stanovování cen AI již není jediným měřičem tokenů. Text, obrázek, zvuk, video, volání nástrojů, kontext v mezipaměti a režimy uvažování mohou mít různé ekonomické vlastnosti v závislosti na poskytovateli. Vrstva řízení nákladů, která rozumí modalitě, může týmům poskytnout přesnější limity a pravidla směrování než obecný čítač požadavků.

Vydání také rozšiřuje pokrytí modelů a poskytovatelů a přidává zásady AI s ohledem na identitu. Nativní autentizace IAM společnosti Kong pro Amazon Bedrock AgentCore je obzvláště důležitá, protože Bedrock AgentCore se stává jedním z míst, kde podniky provozují a spravují agenty. Propojení zásad brány s cloudovou identitou snižuje propast mezi kontrolami specifickými pro umělou inteligenci a přístupovými systémy, které společnosti již auditují.

Proč je to důležité pro vývojáře a týmy platforem

Pro vývojáře je praktický efekt, že se brána stává součástí aplikační architektury, nikoli pouze doplňkem infrastruktury. Tým vytvářející interního agenta podpory, asistenta kódování nebo pracovní postup analýzy dat může nyní potřebovat pravidla brány pro přístup k modelu, přístup k nástrojům, prahové hodnoty rozpočtu a šíření identity, než se aplikace dostane do produkce.

To může zvýšit náklady na nastavení, ale také to řeší skutečný režim selhání. Bez vrstvy sdílené brány se výběr modelu, pověření poskytovatele, oprávnění nástrojů a kontroly výdajů obvykle rozšiřují napříč kódem aplikace, tajnými klíči CI, obaly SDK a řídicími panely specifických pro tým. Tato fragmentace ztěžuje vyšetřování incidentů a obtížnější provedení modelových migrací.

Vydání společnosti Kong je také signálem pro dodavatele, kteří vytvářejí vrstvy API kompatibilní s OpenAI a produkty API pro více modelů. Samotná kompatibilita se stává sázkami na stůl. Zákazníci stále více očekávají správu a řízení kolem požadavku: vynucování zásad, analýzy využití, přístup na úrovni týmu, řízení rozpočtu, záložní směrování a viditelnost modelu/poskytovatele.

Pro uživatele Model Gate je připojení přímé. Jednotná fakturace, správa klíčů API, analýzy využití a týmové kontroly se stávají cennějšími, když je přístup k modelu pouze jednou součástí pracovního postupu. Jak agenti získávají přístup k nástrojům prostřednictvím rozhraní ve stylu MCP, brány budou muset reprezentovat nejen to, který model byl volán, ale také který tým, klíč, balíček nástrojů a kontext politiky byly zapojeny.

Konkurenční benchmark se mění

Kong není v tomto směru sám. Nedávné pohyby na trhu ukazují, že se dodavatelé infrastruktury AI sbližují ke stejnému širšímu problému: podniková AI potřebuje řízenou cestu mezi uživateli, modely, agenty, nástroji a výdaji. Produkty Gateway jsou posuzovány méně podle toho, zda dokážou normalizovat formáty požadavků, a více podle toho, zda mohou podporovat řízení výroby.

To vytváří tlak na kupující, aby kladli ostřejší otázky. Rozumí brána cenám a modalitám specifickým pro poskytovatele? Mohou administrátoři nastavit zásady podle týmu nebo identity? Může směrovat mezi poskytovatele bez ztráty auditovatelnosti?Může řídit nástroje agentů, nejen modelovat koncové body? Může odhalit údaje o využití a nákladech způsobem, který mohou využít finance, zabezpečení a inženýrství?

Tyto otázky již nejsou teoretické. Modely s dlouhým kontextem, volání nástrojů agentů a multimodální pracovní zátěže mohou rychle změnit nákladové profily. Pracovní postup, který během testování vypadá levně, se může prodražit, když do výroby vstoupí opakovaný kontext, obrazové vstupy nebo smyčky agentů s velkým množstvím nástrojů. Brána, která nedokáže rozlišit tyto vzorce, může stále centralizovat přístup, ale neposkytne operátorům dostatečnou kontrolu.

Co zůstává nejisté

Oznámení stanoví obecnou dostupnost a pojmenuje klíčové funkce, ale přijetí v reálném světě bude záviset na podrobnostech implementace: jak týmy konfigurují balíčky MCP, jak podrobné jsou zásady s ohledem na identitu, jak se chovají kontroly nákladů u různých poskytovatelů, a jak brzy budou vědět, zda je podniková viditelnost v praxi příliš viditelná.

standardizovat správu agentů v jediné bráně AI nebo rozdělit odpovědnost mezi cloudové platformy, bezpečnostní nástroje, vývojářské platformy a dodavatele pro sledování. AWS, hostingové platformy, dodavatelé IDE a poskytovatelé samostatných bran se všichni snaží vlastnit části stejného ovládacího povrchu.

Směr je však jasný. Kong AI Gateway 2.0 zachází s AI provozem jako s řízeným podnikovým systémem spíše než s proudem modelových volání. Pro vývojáře a firmy, které staví na modelových API, to znamená, že rozhodnutí o bráně se stávají rozhodnutími o architektuře: ovlivňují náklady, zabezpečení, výběr modelu, přístup k nástrojům a spolehlivost pracovních postupů agentů.