Google Cloud je dodal novo prilagodljivost zaračunavanja in orodja za upravljanje stroškov za Gemini Enterprise, s čimer je nadzor porabe z umetno inteligenco približal agentom za ustvarjanje ekip in vodenje.

Sprememba je pomembna, ker se delovne obremenitve agentov ne obnašajo kot tradicionalni sedeži SaaS. Agent za kodiranje, podporni agent ali agent za potek dela lahko pokliče več modelov, večkrat prikliče orodja in ustvari spremenljivo uporabo med uporabniki, projekti in okolji. Zaradi tega je stroške težje razložiti naknadno. Google zdaj to težavo obravnava kot površino izdelka znotraj Gemini Enterprise in njegovega razvijalskega ekosistema, namesto da bi jo v celoti prepustil standardnim izvozom za obračunavanje v oblaku.

Glede na Google Cloud je kvota orodja za razvijalce, vključena v Gemini Enterprise naročnine, zdaj združena na Google ravni projekta v oblaku. Podjetje opisuje tudi razširjeno fleksibilnost zaračunavanja za delovne obremenitve agentov v Gemini Enterprise in orodjih za razvijalce, vključno z Google Antigravity v Gemini Enterprise in Android Studio. Ločeno Google dokumentacija v oblaku opisuje posrednika za povzetek stroškov AI, ki lahko analizira uporabo Gemini, vključno s porabo iz Gemini API in Vertex AI, ter razčleni porabo AI po ključu API.

Kaj se je spremenilo

Najkonkretnejša operativna sprememba je združevanje na ravni projekta za kvoto orodij za razvijalce, vezano na Gemini Enterprise naročnine. Namesto razmišljanja samo o posameznih uporabnikih, ki porabijo ločene dodatke, lahko organizacije upravljajo vključeno kvoto na ravni projekta. Za inženirske ekipe je to bližje temu, kako je delo umetne inteligence dejansko organizirano: po izdelku, okolju, ekipi, aplikaciji ali poteku dela, obrnjenem k strankam.

Agent za povzetek stroškov umetne inteligence je drugi pomemben del. Google ga opisuje kot orodje za analizo Gemini uporabe in porabe umetne inteligence v Gemini API in Vertex AI. V dokumentaciji piše, da lahko razčleni porabo po ključu API, kar je ključna raven dodeljevanja za sodobne sisteme umetne inteligence. API ključi se pogosto preslikajo v storitve, notranja orodja, poskuse, najemnike ali poteke dela agentov. Ko računi narastejo, je uporabno vprašanje redko le "kateri model je bil drag?" To je "katera delovna obremenitev, ključ, aplikacija ali ekipa je povzročila spremembo?"

Ta razlika je še posebej pomembna pri delovnih obremenitvah agentov. Zahteva posameznega uporabnika lahko sproži načrtovanje, iskanje, klice orodij, korake sklepanja, izvajanje kode ali klice nadaljnjih modelov. Brez pripisa vidijo finančne ekipe račun, inženirske ekipe dnevnike in nobena stran nima čistega skupnega pogleda na to, kaj se je zgodilo.

Zakaj je to pomembno za agentske platforme

Obračunavanje z umetno inteligenco postaja konkurenčna funkcija. Med prvim valom sprejetja API sta v pogovoru o nakupu prevladovala dostop do modela in primerjalna uspešnost. Ko se je uporaba preselila v produkcijo, so nerešeni problemi postali bolj vsakdanji in dražji: proračuni, računi, dodeljevanje, obračunavanje predpomnilnika, omejitve projekta, zaznavanje anomalij in primerjava ponudnikov.

Poteza

Google je signal, da hiperscale platforme pričakujejo, da bodo kupci zahtevali te kontrole neposredno v izdelkih AI. Gemini Podjetje se ne postavlja samo kot prostor za uporabo modelov. Vse bolj je prostor za obvladovanje operativnih posledic uporabe modelov v velikem obsegu.

To spremeni pričakovanja preostalega trga. Če lahko paketi umetne inteligence, ki so izvorni v oblaku, razložijo porabo glede na projekt in ključ API, se pričakuje, da bodo platforme in prehodi z več modeli naredili vsaj toliko pri vseh ponudnikih. Ekipa, ki izvaja OpenAI, Anthropic, Google, modele, ki jih gosti AWS, in uvedbe odprte teže prek enega sklada aplikacij se ne more zanašati samo na eno plast FinOps v oblaku. Potrebuje normaliziran pogled na uporabo, izbiro modela in stroške v celotnem posestvu.

Za Model Gate in podobne OpenAI-kompatibilne prehode je praktična povezava neposredna. Poenoteno zaračunavanje in analitika uporabe umetne inteligence nista več ugodnosti zalednih pisarn. So del nadzorne ravnine, ki jo razvijalci in lastniki podjetij uporabljajo za odločanje o tem, kateri modeli morajo biti na voljo, katere ekipe jih lahko uporabljajo in kdaj je delovna obremenitev postala predraga, da bi jo izvajali, kot je bilo načrtovano.

Koga to zadeva

Podjetniški razvijalci, ki uporabljajo Gemini API ali Vertex AI, so najbolj neposredna publika. Ekipe z več ključi API, storitvenimi računi, okolji ali notranjimi agenti bi morale dobiti boljše signale o tem, od kod prihaja poraba, povezana z Gemini, ob predpostavki, da sprejmejo nova orodja in svoje projekte organizirajo čisto.

Prizadete so tudi ekipe za finance in nabavo. Stroške umetne inteligence je težko napovedati, ker se uporaba spreminja z obsegom opravil in vedenjem agentov, ne le s številom zaposlenih. Združevanje kvot na ravni projekta in poročanje na ravni APIključa lahko zmanjšata odvisnost internih povratnih bremenitev, pregledov proračuna in načrtovanja obnove od ročnega dela s preglednicami.

Produktne ekipe, ki izdelujejo funkcije umetne inteligence, imajo drugo skrb: marža. Če posrednik, ki se sooča s stranko, prepogosto uporablja vrhunski model ali če potek dela v ozadju prevečkrat poskuša, lahko stroški tiho presežejo prihodke, povezane s to funkcijo. Boljše dodeljevanje pomaga ekipam ujeti te vzorce, preden postanejo strukturne izgube.

Pozorne naj bodo tudi agencije, preprodajalci in ponudniki upravljanih storitev. Stranke vse pogosteje sprašujejo ne samo, ali funkcija umetne inteligence deluje, ampak tudi, ali je njeno uporabo mogoče nadzorovati. Za partnerje, ki gradijo storitve na več modelih API, postaja poročanje o stroških glede na stranko, projekt, API ključ in model del ponudbe.

Omejitve pristopa Google

Odprto vprašanje je, koliko ta orodja v praksi zmanjšajo skupno porabo umetne inteligence. Sporočila Google o izogibanju »šoku z nalepkami« umetne inteligence so razumljiva, vendar so prihranki odvisni od vedenja strank: ali ekipe določajo proračune, ukrepajo glede nepravilnosti, spreminjajo izbire modelov, popravljajo neučinkovite agente ali preoblikujejo delovne tokove. Prepoznavnost je nujna, vendar ni isto kot optimizacija.

Obstaja tudi vprašanje zaklepanja. Izvorna orodja za obračunavanje stroškov v oblaku so uporabna v njihovem lastnem ekosistemu, vendar mnoga podjetja namenoma širijo delovne obremenitve AI med ponudnike. Pogled, specifičen za Gemini ali Google v oblaku, morda ne pojasni celotnega stroška aplikacije, ki drugje kliče tudi končne točke, združljive s OpenAI, uporablja Bedrock za regionalno usmerjanje ali zasebno izvaja odprte modele.

Tukaj lahko prehodi še dodajo vrednost. Ponudnik oblaka lahko razkrije bogate podrobnosti za svoje storitve. Prehod lahko normalizira uporabo in zaračunavanje med ponudniki modelov, API ključi, ekipami, aplikacijami in strankami. Več ponudnikov v oblaku naredi AI FinOps vidne, več kupcev bo zahtevalo enako vidnost pri vseh modelih, ki jih uporabljajo.

Kaj naj razvijalci storijo zdaj

Ekipe, ki uporabljajo Gemini Enterprise, morajo pregledati, kako so strukturirani projekti in API ključi. Če si ključe deli preveč aplikacij ali okolij, bo poročanje o porabi na ravni ključa API manj uporabno. Čisto dodeljevanje se začne z ločevanjem proizvodnje od razvoja, storitev, namenjenih strankam, od poskusov in agentov z visokim tveganjem od običajne interaktivne uporabe.

Razvijalci bi morali podatke o stroških obravnavati tudi kot inženirski signal. Skoki v porabi modela lahko razkrijejo neučinkovito pozivanje, zanke pobeglega agenta, nepričakovane ponovne poskuse, čezmerna kontekstna okna ali izbire modela, ki se ne ujemajo več z nalogo. Opazovanje stroškov sodi poleg zakasnitve, stopnje napak in ocene kakovosti, ne pa v mesečni pregled računov po storjeni škodi.

Obvestilo

Google ni samo še ena posodobitev obračunavanja. Odraža širši premik v infrastrukturi umetne inteligence: ko postajajo agenti bolj avtonomni in API uporaba bolj spremenljiva, postaja zmožnost pojasnjevanja in nadzora porabe temeljna zahteva platforme.