Google Cloud dodało nową elastyczność rozliczeń i narzędzia do zarządzania kosztami dla Gemini Enterprise, dzięki czemu kontrola wydatków na sztuczną inteligencję staje się bliższa zespołom tworzącym i prowadzącym agentów.

Zmiana ma znaczenie, ponieważ obciążenia agentów nie zachowują się jak tradycyjne stanowiska SaaS. Agent kodujący, agent wsparcia lub agent przepływu pracy może wywoływać wiele modeli, wielokrotnie wywoływać narzędzia i generować zmienne wykorzystanie wśród użytkowników, projektów i środowisk. To sprawia, że ​​trudniej jest wyjaśnić koszty po fakcie. Google traktuje teraz ten problem jako powierzchnię produktu w Gemini Enterprise i jego ekosystemie programistów, zamiast pozostawiać go całkowicie standardowemu eksportowi rozliczeń w chmurze.

Według Google Cloud limit narzędzi dla programistów zawarty w subskrypcjach Gemini Enterprise jest teraz łączony na poziomie projektu Google Cloud. Firma opisuje również zwiększoną elastyczność rozliczeń w przypadku obciążeń agentów w Gemini Enterprise i narzędziach programistycznych, w tym Google Antigravity w Gemini Enterprise i Android Studio. Oddzielnie dokumentacja Google Cloud opisuje agenta podsumowującego koszty AI, który może analizować wykorzystanie Gemini, w tym wydatki z interfejsu Gemini API i Vertex AI, oraz rozkładać wydatki na sztuczną inteligencję według klucza API.

Co się zmieniło

Najbardziej konkretną zmianą operacyjną jest łączenie na poziomie projektu limitów narzędzi programistycznych powiązanych z subskrypcjami Gemini Enterprise. Zamiast myśleć wyłącznie w kategoriach indywidualnych użytkowników zużywających oddzielne uprawnienia, organizacje mogą zarządzać uwzględnioną kwotą na poziomie projektu. W przypadku zespołów inżynierskich jest to bliższe faktycznej organizacji pracy AI: według produktu, środowiska, zespołu, aplikacji lub przepływu pracy skierowanego do klienta.

Agent podsumowujący koszty AI to kolejny godny uwagi element. Google opisuje to jako narzędzie do analizy wykorzystania Gemini i wydatków na sztuczną inteligencję w interfejsach Gemini API i Vertex AI. Dokumentacja mówi, że może rozbić wydatki według klucza API, który jest kluczowym poziomem atrybucji w nowoczesnych systemach AI. Klucze API często są mapowane na usługi, narzędzia wewnętrzne, eksperymenty, dzierżawy lub przepływy pracy agentów. Gdy rachunki rosną, rzadko pojawia się pytanie „który model był drogi?” Chodzi o to, „które obciążenie pracą, klucz, aplikacja lub zespół spowodowały zmianę?”

To rozróżnienie jest szczególnie ważne w przypadku obciążeń agentów. Pojedyncze żądanie użytkownika może uruchomić planowanie, pobieranie, wywoływanie narzędzi, etapy wnioskowania, wykonanie kodu lub wywołania kolejnych modeli. Bez przypisania zespoły finansowe widzą rachunek, zespoły inżynieryjne widzą logi i żadna ze stron nie ma jasnego, wspólnego obrazu tego, co się stało.

Dlaczego ma to znaczenie dla platform agentów

Rozliczenia AI stają się funkcją konkurencyjną. Podczas pierwszej fali wdrażania API w rozmowach zakupowych dominował dostęp do modeli i wydajność testów porównawczych. Gdy użycie przeniosło się do środowiska produkcyjnego, nierozwiązane problemy stały się bardziej przyziemne i droższe: budżety, faktury, atrybucja, księgowanie pamięci podręcznej, limity projektów, wykrywanie anomalii i porównywanie dostawców.

Posunięcie Google to sygnał, że platformy hiperskalowe oczekują, że kupujący będą żądać kontroli bezpośrednio w produktach AI. Gemini Enterprise nie jest pozycjonowane jedynie jako miejsce wykorzystania modeli. Coraz częściej jest to miejsce zarządzania konsekwencjami operacyjnymi stosowania modeli na dużą skalę.

To zmienia oczekiwania wobec reszty rynku. Jeśli natywne w chmurze pakiety sztucznej inteligencji będą w stanie wyjaśnić wydatki według projektu i klucza API, oczekuje się, że wielomodelowe platformy i bramy będą działać co najmniej tak samo u różnych dostawców. Zespół obsługujący modele OpenAI, Anthropic, Google, AWS i wdrożenia typu open-weight za pośrednictwem jednego stosu aplikacji nie może polegać wyłącznie na warstwie FinOps w jednej chmurze. Wymaga znormalizowanego spojrzenia na użytkowanie, wybór modelu i koszty w całym osiedlu.

W przypadku Model Gate i podobnych bram zgodnych z OpenAI praktyczne połączenie jest bezpośrednie. Ujednolicone fakturowanie i analityka wykorzystania sztucznej inteligencji nie są już udogodnieniami na zapleczu. Stanowią część platformy kontrolnej, z której korzystają programiści i właściciele firm, aby decydować, które modele powinny być dostępne, które zespoły mogą z nich korzystać i kiedy obciążenie pracą stało się zbyt kosztowne, aby działać zgodnie z założeniami.

Kogo dotyczy

Programiści korporacyjni korzystający z Gemini API lub Vertex AI to najbliżsi odbiorcy. Zespoły posiadające wiele kluczy API, kont usług, środowisk lub agentów wewnętrznych powinny otrzymywać lepsze sygnały dotyczące źródeł wydatków związanych z Gemini, pod warunkiem, że przyjmą nowe narzędzia i przejrzyście zorganizują swoje projekty.

Dotyczy to również zespołów finansowych i zaopatrzeniowych. Koszty sztucznej inteligencji mogą być trudne do przewidzenia, ponieważ wykorzystanie skaluje się wraz z liczbą zadań i zachowaniem agentów, a nie tylko liczbą pracowników. Łączenie przydziałów na poziomie projektu i raportowanie na poziomie klucza API mogą sprawić, że wewnętrzne obciążenia zwrotne, przeglądy budżetu i planowanie odnowień będą mniej zależne od ręcznej pracy z arkuszami kalkulacyjnymi.

Zespoły produktowe tworzące funkcje AI mają inny problem: marżę. Jeśli agent mający kontakt z klientem zbyt często korzysta z modelu premium lub jeśli przepływ pracy w tle jest nadmiernie ponawiany, koszt może po cichu przekroczyć przychody związane z tą funkcją. Lepsza atrybucja pomaga zespołom wychwycić te wzorce, zanim staną się one stratami strukturalnymi.

Agencje, sprzedawcy i dostawcy usług zarządzanych również powinni zwrócić uwagę. Klienci coraz częściej pytają nie tylko o to, czy funkcja AI działa, ale także o to, czy można regulować jej wykorzystanie. Dla partnerów tworzących usługi w oparciu o wielomodelowy interfejs API raportowanie kosztów według klienta, projektu, klucza API i modelu staje się częścią oferty.

Granice podejścia Google

Otwarte pytanie brzmi, jak bardzo te narzędzia zmniejszają w praktyce całkowite wydatki na sztuczną inteligencję. Komunikat Google dotyczący unikania „szoku naklejek” AI jest zrozumiały, ale oszczędności zależą od zachowania klientów: od tego, czy zespoły ustalają budżety, reagują na anomalie, zmieniają wybory modeli, naprawiają nieefektywnych agentów lub przeprojektowują przepływy pracy. Widoczność jest konieczna, ale to nie to samo, co optymalizacja.

Istnieje również pytanie dotyczące blokady. Natywne narzędzia do obliczania kosztów chmury są przydatne w ich własnym ekosystemie, ale wiele firm celowo rozkłada obciążenia AI pomiędzy dostawcami. Widok specyficzny dla Gemini lub skupiający się na Google Cloud może nie wyjaśniać pełnego kosztu aplikacji, która wywołuje także punkty końcowe kompatybilne z OpenAI w innych miejscach, wykorzystuje Bedrock do routingu regionalnego lub prywatnie obsługuje modele o otwartej wadze.

W tym miejscu bramki nadal mogą stanowić wartość dodaną. Dostawca usług w chmurze może udostępniać szczegółowe informacje dotyczące swoich usług. Brama może normalizować wykorzystanie i rozliczenia pomiędzy dostawcami modeli, kluczami API, zespołami, aplikacjami i klientami. Im więcej dostawców usług w chmurze udostępnia AI FinOps, tym więcej kupujących będzie prosić o taką samą widoczność w każdym używanym przez nich modelu.

Co programiści powinni teraz zrobić

Zespoły korzystające z Gemini Enterprise powinny sprawdzić strukturę projektów i kluczy API. Jeśli klucze są współużytkowane przez zbyt wiele aplikacji lub środowisk, raportowanie wydatków na poziomie klucza API będzie mniej przydatne. Czysta atrybucja zaczyna się od oddzielenia produkcji od rozwoju, usług skierowanych do klienta od eksperymentów i agentów wysokiego ryzyka od zwykłego interaktywnego użytku.

Programiści powinni również traktować dane o kosztach jako sygnał inżynieryjny. Skoki w wydatkach na modele mogą ujawnić nieefektywne podpowiedzi, niekontrolowane pętle agentów, nieoczekiwane ponowne próby, nadmierne okna kontekstowe lub wybory modeli, które nie odpowiadają już zadaniu. Obserwowalność kosztów należy obok opóźnień, poziomu błędów i oceny jakości, a nie w ramach miesięcznego przeglądu faktury po wyrządzeniu szkody.

Ogłoszenie Google to nie tylko kolejna aktualizacja rozliczeń. Odzwierciedla to szerszą zmianę w infrastrukturze sztucznej inteligencji: w miarę jak agenci stają się bardziej autonomiczni, a wykorzystanie interfejsów API staje się bardziej zmienne, umiejętność wyjaśniania i kontrolowania wydatków staje się podstawowym wymaganiem platformy.