Google Cloud je dodal nova orodja za fleksibilnost zaračunavanja in upravljanje stroškov za Gemini Enterprise, s čimer je nadzor porabe z umetno inteligenco približal agentom za ustvarjanje ekip in vodenje.

Sprememba je pomembna, ker se delovne obremenitve agentov ne obnašajo kot tradicionalni sedeži SaaS. Agent za kodiranje, podporni agent ali agent za potek dela lahko pokliče več modelov, večkrat prikliče orodja in ustvari spremenljivo uporabo med uporabniki, projekti in okolji. Zaradi tega je stroške težje razložiti naknadno. Google zdaj to težavo obravnava kot površino izdelka znotraj Gemini Enterprise in njegovega razvijalskega ekosistema, namesto da bi jo v celoti prepustil standardnemu izvozu obračunavanja v oblaku.

Glede na Google Cloud je kvota orodja za razvijalce, vključena v naročnine Gemini Enterprise, zdaj združena na ravni projekta Google Cloud. Podjetje opisuje tudi razširjeno fleksibilnost zaračunavanja za delovne obremenitve agentov v Gemini Enterprise in orodjih za razvijalce, vključno z Google Antigravity v Gemini Enterprise in Android Studio. Dokumentacija Google Cloud ločeno opisuje posrednika za povzetek stroškov AI, ki lahko analizira uporabo Gemini, vključno s porabo iz API-ja Gemini in Vertex AI, ter razčleni porabo AI po ključu API-ja.

Kaj se je spremenilo

Najbolj konkretna operativna sprememba je združevanje na ravni projekta za kvoto orodja za razvijalce, povezano z naročninami Gemini Enterprise. Namesto razmišljanja samo o posameznih uporabnikih, ki porabijo ločene dodatke, lahko organizacije upravljajo vključeno kvoto na ravni projekta. Za inženirske ekipe je to bližje temu, kako je delo umetne inteligence dejansko organizirano: po izdelku, okolju, ekipi, aplikaciji ali poteku dela, obrnjenem k strankam.

Agent za povzetek stroškov umetne inteligence je drugi pomemben del. Google ga opisuje kot orodje za analizo uporabe Gemini in porabe AI v Gemini API in Vertex AI. Dokumentacija pravi, da lahko razčleni porabo po ključu API, ki je ključna raven dodeljevanja za sodobne sisteme AI. Ključi API-ja se pogosto preslikajo v storitve, notranja orodja, poskuse, najemnike ali poteke dela agentov. Ko računi narastejo, je uporabno vprašanje redko le "kateri model je bil drag?" To je "katera delovna obremenitev, ključ, aplikacija ali ekipa je povzročila spremembo?"

Ta razlika je še posebej pomembna za delovne obremenitve agentov. Zahteva posameznega uporabnika lahko sproži načrtovanje, iskanje, klice orodij, korake razmišljanja, izvajanje kode ali klice nadaljnjih modelov. Brez pripisa vidijo finančne ekipe račun, inženirske ekipe dnevnike in nobena stran nima čistega skupnega pogleda na to, kaj se je zgodilo.

Zakaj je to pomembno za agentske platforme

Obračunavanje z umetno inteligenco postaja konkurenčna funkcija. Med prvim valom sprejemanja API-ja sta v pogovoru o nakupu prevladovala dostop do modela in primerjalna uspešnost. Ko se je uporaba preselila v produkcijo, so nerešeni problemi postali bolj vsakdanji in dražji: proračuni, računi, dodeljevanje, obračunavanje predpomnilnika, omejitve projekta, zaznavanje anomalij in primerjava ponudnikov.

Googlova poteza je signal, da hiperscale platforme pričakujejo, da bodo kupci te kontrole zahtevali neposredno v izdelkih AI. Gemini Enterprise se ne pozicionira le kot prostor za uporabo modelov. Vse bolj je prostor za obvladovanje operativnih posledic uporabe modelov v velikem obsegu.

To spreminja pričakovanja za preostali trg. Če lahko paketi umetne inteligence, ki so izvorni v oblaku, razložijo porabo glede na projekt in ključ API-ja, se pričakuje, da bodo platforme in prehodi z več modeli naredili vsaj toliko pri ponudnikih. Skupina, ki uporablja OpenAI, Anthropic, Google, modele, ki jih gosti AWS, in odprte uvedbe prek enega sklada aplikacij, se ne more zanašati samo na plast FinOps v enem oblaku. Potrebuje normaliziran pogled na uporabo, izbiro modela in stroške v celotnem posestvu.

Za Model Gate in podobne prehode, združljive z OpenAI, je praktična povezava neposredna. Poenoteno obračunavanje in analitika uporabe umetne inteligence nista več ugodnosti zalednih pisarn. So del nadzorne ravnine, ki jo razvijalci in lastniki podjetij uporabljajo za odločanje o tem, kateri modeli naj bodo na voljo, katere ekipe jih lahko uporabljajo in kdaj je delovna obremenitev postala predraga, da bi jo izvajali, kot je bilo načrtovano.

Kdo je prizadet

Razvijalci podjetij, ki uporabljajo Gemini API ali Vertex AI, so najbolj neposredna publika. Ekipe z več ključi API, storitvenimi računi, okolji ali notranjimi agenti bi morale dobiti boljše signale o tem, od kod prihaja poraba, povezana z Gemini, ob predpostavki, da sprejmejo nova orodja in svoje projekte organizirajo čisto.

Prizadete so tudi ekipe za finance in nabavo. Stroške umetne inteligence je težko napovedati, ker se uporaba spreminja z obsegom opravil in vedenjem agentov, ne le s številom zaposlenih. Združevanje kvot na ravni projekta in poročanje na ravni ključa API lahko zmanjšata odvisnost internih povratnih bremenitev, pregledov proračuna in načrtovanja obnove od ročnega dela s preglednicami.

Produktne ekipe, ki izdelujejo funkcije AI, imajo drugačno skrb: marža. Če posrednik, ki se sooča s stranko, prepogosto uporablja vrhunski model ali če potek dela v ozadju prevečkrat poskuša, lahko stroški tiho presežejo prihodke, povezane s to funkcijo. Boljše dodeljevanje pomaga ekipam ujeti te vzorce, preden postanejo strukturne izgube.

Pozorne bi morale biti tudi agencije, preprodajalci in ponudniki upravljanih storitev. Stranke vse pogosteje sprašujejo ne samo, ali funkcija umetne inteligence deluje, ampak tudi, ali je njeno uporabo mogoče nadzorovati. Za partnerje, ki gradijo storitve na podlagi API-ja z več modeli, postaja del ponudbe poročanje o stroških glede na stranko, projekt, ključ API in model.

Omejitve Googlovega pristopa

Odprto vprašanje je, koliko ta orodja v praksi zmanjšajo skupno porabo umetne inteligence. Googlovo sporočanje v zvezi z izogibanjem »šoku z nalepkami« AI je razumljivo, vendar so prihranki odvisni od vedenja strank: ali ekipe določajo proračune, ukrepajo ob anomalijah, spreminjajo izbire modelov, popravljajo neučinkovite agente ali preoblikujejo delovne tokove. Prepoznavnost je nujna, vendar ni isto kot optimizacija.

Obstaja tudi vprašanje zaklepanja. Izvorna orodja za obračunavanje stroškov v oblaku so uporabna v njihovem lastnem ekosistemu, vendar mnoga podjetja namenoma širijo delovne obremenitve AI med ponudnike. Pogled, specifičen za Gemini ali Google Cloud, morda ne pojasni celotne cene aplikacije, ki kliče končne točke, združljive z OpenAI, drugje, uporablja Bedrock za regionalno usmerjanje ali zasebno izvaja odprte modele.

Tukaj lahko prehodi še dodajo vrednost. Ponudnik oblaka lahko razkrije bogate podrobnosti za svoje storitve. Prehod lahko normalizira uporabo in zaračunavanje med ponudniki modelov, ključi API, ekipami, aplikacijami in strankami. Več ponudnikov v oblaku naredi AI FinOps vidne, več kupcev bo zahtevalo enako vidnost v vseh modelih, ki jih uporabljajo.

Kaj naj razvijalci storijo zdaj

Ekipe, ki uporabljajo Gemini Enterprise, bi morale pregledati, kako so projekti in ključi API strukturirani. Če si ključe deli preveč aplikacij ali okolij, bo poročanje o porabi na ravni ključa API manj uporabno. Čisto dodeljevanje se začne z ločevanjem proizvodnje od razvoja, storitev, namenjenih strankam, od poskusov in agentov z visokim tveganjem od običajne interaktivne uporabe.

Razvijalci bi morali podatke o stroških obravnavati tudi kot inženirski signal. Skoki v porabi modela lahko razkrijejo neučinkovito pozivanje, zanke pobeglega agenta, nepričakovane ponovne poskuse, čezmerna kontekstna okna ali izbire modela, ki se ne ujemajo več z nalogo. Opazovanje stroškov sodi poleg zakasnitve, stopnje napak in ocene kakovosti, ne pa pri mesečnem pregledu računov po storjeni škodi.

Googlova objava ni le še ena posodobitev obračunavanja. Odraža širši premik v infrastrukturi umetne inteligence: ko postajajo agenti bolj avtonomni in uporaba API-ja bolj spremenljiva, postaja zmožnost razlage in nadzora porabe osrednja zahteva platforme.