Kong je učinio Kong AI Gateway 2.0 općenito dostupnim, označavajući još jedan korak u prijelazu s jednostavnog proxyja LLM-a na širu kontrolnu razinu za modele, agente, alate i potrošnju umjetne inteligencije.
Izdanje od 1. rujna donosi nekoliko značajki koje su važne timovima koji već pokreću produkcijska radna opterećenja AI-ja: MCP Server Bundling za upravljani pristup alatu, dinamičko upravljanje troškovima koje uzima u obzir različite modalitete, širi model i pružatelja usluga pokrivenost, AI politike svjesne identiteta i izvorna IAM autentifikacija za Amazon Bedrock AgentCore. Kong također kaže da je proizvod sada dostupan u Kong Konnectu bez omogućavanja beta verzije.
Ta kombinacija je novost. Kategorija pristupnika umjetne inteligencije više se ne odnosi samo na preuzimanje zahtjeva u stilu OpenAI-a, prosljeđivanje istog pružatelju i bilježenje odgovora. Poslovni kupci sve više žele da pristupnik odlučuje tko može nazvati koji model, kojim alatima agent može pristupiti, kako treba mjeriti potrošnju i kako se te odluke preslikavaju na sustave identiteta koje tvrtka već koristi.
Što se promijenilo u Kong AI Gateway 2.0
Najistaknutiji dodatak je MCP Server Bundling. MCP ili Model Context Protocol postao je uobičajen način izlaganja alata i resursa AI agentima. Spajanje MCP poslužitelja na sloj pristupnika daje platformskim timovima mjesto za agregaciju i upravljanje tim vezama alata, umjesto da prepuštaju svakom aplikacijskom timu da povezuje i nadzire vlastite integracije agenata.
To je smisleno usmjerenje proizvoda. Kako agenti prelaze s demonstracija na interne tijekove rada, rizik je manji u tome da model loše odgovori na jedno pitanje, a više u tome da je model povezan s previše alata s premalo nadzora. Gateway koji može pakirati i kontrolirati pristup MCP-u nalazi se bliže operativnom problemu: koji agenti mogu doprijeti do kojih sustava, pod čijim identitetom i s kojim granicama politike.
Kong je također dodao dinamičko upravljanje troškovima svjesno modaliteta. Ovo je važno jer AI određivanje cijena više nije mjerač jednog tokena. Tekst, slika, audio, video, pozivi alata, predmemorirani kontekst i načini razmišljanja mogu nositi različitu ekonomiju ovisno o pružatelju usluga. Sloj kontrole troškova koji razumije modalitet može dati timovima točnija ograničenja i pravila usmjeravanja od generičkog brojača zahtjeva.
Izdanje također proširuje model i pokrivenost pružatelja usluga i dodaje AI politike svjesne identiteta. Kongova izvorna IAM autentifikacija za Amazon Bedrock AgentCore posebno je relevantna jer Bedrock AgentCore postaje jedno od mjesta gdje poduzeća pokreću i upravljaju agentima. Povezivanje politike pristupnika s identitetom u oblaku smanjuje jaz između kontrola specifičnih za umjetnu inteligenciju i pristupnih sustava koje tvrtke već nadziru.
Zašto je ovo važno za programere i platformske timove
Za programere, praktičan učinak je da pristupnik postaje dio arhitekture aplikacije, a ne samo infrastrukturni dodatak. Tim koji gradi internog agenta za podršku, asistenta za kodiranje ili tijek rada za analizu podataka sada može trebati pravila pristupnika za pristup modelu, pristup alatu, proračunske pragove i širenje identiteta prije nego što aplikacija dosegne proizvodnju.
To može povećati troškove postavljanja, ali također rješava način stvarnog kvara. Bez dijeljenog sloja pristupnika, odabir modela, vjerodajnice pružatelja usluga, dopuštenja za alate i kontrole potrošnje obično se šire preko aplikacijskog koda, CI tajni, omotača SDK-a i nadzornih ploča specifičnih za tim. Ta fragmentacija otežava istraživanje incidenata i teže izvršavanje migracija modela.
Kongovo izdanje također je signal dobavljačima koji grade API slojeve kompatibilne s OpenAI-jem i API proizvode s više modela. Sama kompatibilnost postaje glavni ulog. Korisnici sve više očekuju upravljanje oko zahtjeva: provedbu pravila, analitiku korištenja, pristup na razini tima, kontrole proračuna, rezervno usmjeravanje i vidljivost modela/provajdera.
Za korisnike Model Gatea, veza je izravna. Objedinjena naplata, upravljanje API-ključevima, analitika upotrebe i timske kontrole postaju vrijedniji kada je pristup modelu samo jedan dio tijeka rada. Kako agenti dobivaju pristup alatu putem sučelja u stilu MCP-a, pristupnici će morati predstavljati ne samo koji je model pozvan, već i koji je tim, ključ, paket alata i kontekst politike uključen.
Konkurentna referentna vrijednost se mijenja
Kong nije sam u ovom smjeru. Nedavni potezi na tržištu pokazuju da se dobavljači AI infrastrukture približavaju istom širem problemu: AI poduzeća treba upravljani put između korisnika, modela, agenata, alata i potrošnje. Gateway proizvode ocjenjuje se manje po tome mogu li normalizirati formate zahtjeva, a više po tome mogu li podržati kontrole proizvodnje.
To vrši pritisak na kupce da postavljaju oštrija pitanja. Razumije li pristupnik cijene i modalitete specifične za pružatelja? Mogu li administratori postaviti politiku prema timu ili identitetu? Može li usmjeravati preko pružatelja bez gubitka mogućnosti revizije?Može li upravljati agentskim alatima, a ne samo modelirati krajnje točke? Može li izložiti podatke o upotrebi i troškovima na način na koji to mogu koristiti financije, sigurnost i inženjerstvo?
Ta pitanja više nisu teoretska. Modeli dugog konteksta, pozivi agentskih alata i multimodalna radna opterećenja mogu brzo promijeniti profile troškova. Tijek rada koji izgleda jeftino tijekom testiranja može postati skup kada ponovljeni kontekst, unosi slika ili petlje agenta s velikim brojem alata uđu u proizvodnju. Pristupnik koji ne može razlikovati te uzorke i dalje može centralizirati pristup, ali operaterima neće dati dovoljno kontrole.
Ono što ostaje neizvjesno
Najava uspostavlja opću dostupnost i imenuje ključne mogućnosti, ali usvajanje u stvarnom svijetu ovisit će o detaljima implementacije: kako timovi konfiguriraju MCP pakete, koliko su granularne politike svjesne identiteta, kako se kontrole troškova ponašaju među mješovitim pružateljima usluga i koliko operativnu vidljivost koju korisnici dobivaju u praksi.
Također je prerano znati hoće li poduzeća standardizirati upravljanje agentima u jednom pristupniku umjetne inteligencije ili će podijeliti odgovornost između platformi u oblaku, sigurnosnih alata, platformi za razvojne programere i dobavljača mogućnosti promatranja. AWS, platforme za hosting, IDE dobavljači i pružatelji samostalnih pristupnika pokušavaju posjedovati dijelove iste kontrolne površine.
Ipak, smjer je jasan. Kong AI Gateway 2.0 tretira AI promet kao upravljani poslovni sustav, a ne kao tok modela poziva. Za programere i tvrtke koje grade na modelskim API-jima, to znači da odluke o pristupniku postaju odluke o arhitekturi: one utječu na cijenu, sigurnost, izbor modela, pristup alatu i pouzdanost tijeka rada agenata.