АИ вести
Гоогле контролише трошкове вештачке интелигенције као функцију на улазу за Гемини Ентерприсе
Гоогле Цлоуд је додао флексибилније наплате Гемини Ентерприсе-а и нове контроле потрошње АИ за радна оптерећења агената, укључујући обједињене квоте на нивоу пројекта и агента за сажетак трошкова вештачке интелигенције који може да анализира Гемини АПИ и Вертек АИ потрошњу према АПИ кључу. Овај потез показује да видљивост трошкова вештачке интелигенције постаје део саме платформе агента, а не само накнадна мисао финансијског тима.
<п>Гоогле Цлоуд је додао нову флексибилност наплате и алатке за управљање трошковима за Гемини Ентерприсе, стављајући контролу потрошње АИ ближе стварању тимова и покретању агената.п>
<п>Промена је важна јер се радна оптерећења агента не понашају као традиционална СааС места. Агент за кодирање, агент за подршку или агент тока посла може позвати више модела, више пута позвати алате и генерисати променљиву употребу међу корисницима, пројектима и окружењима. То отежава објашњавање трошкова након чињенице. Гоогле сада третира тај проблем као површину производа унутар Гемини Ентерприсе-а и његовог екосистема за програмере, уместо да га препушта у потпуности стандардном извозу наплате у облаку.п>
<п>Према Гоогле Цлоуд-у, квота алата за програмере укључена у претплате на Гемини Ентерприсе је сада обједињена на нивоу Гоогле Цлоуд пројекта. Компанија такође описује проширену флексибилност наплате за радна оптерећења агената у Гемини Ентерприсе-у и алатима за програмере, укључујући Гоогле Антигравити у Гемини Ентерприсе-у и Андроид Студио-у. Одвојено, Гоогле Цлоуд документација описује агента за АИ Цост Суммари Агент који може да анализира коришћење Гемини-а, укључујући потрошњу из Гемини АПИ-ја и Вертек АИ-а, и рашчлањивање АИ потрошње према АПИ кључу.п>
<х2>Шта се променилох2>
<п>Најконкретнија оперативна промена је удруживање на нивоу пројекта за квоту алата програмера везану за Гемини Ентерприсе претплате. Уместо да размишљају само о појединачним корисницима који троше одвојене накнаде, организације могу да управљају укљученом квотом на нивоу пројекта. За инжењерске тимове, то је ближе начину на који је рад вештачке интелигенције заправо организован: према производу, окружењу, тиму, апликацији или току рада који је окренут клијентима.п>
<п>Агент за АИ Цост Суммари је други значајан део. Гоогле га описује као алат за анализу употребе Геминија и потрошње АИ преко Гемини АПИ-ја и Вертек АИ. У документацији се каже да може да рашчлани потрошњу према АПИ кључу, што је кључни ниво атрибуције за модерне системе вештачке интелигенције. АПИ кључеви се често мапирају на услуге, интерне алате, експерименте, станаре или токове рада агената. Када рачуни расту, корисно питање ретко је само „који је модел био скуп?“ То је „које радно оптерећење, кључ, апликација или тим је изазвао промену?“п>
<п>Та разлика је посебно важна за радна оптерећења агената. Захтев једног корисника може да покрене планирање, проналажење, позиве алата, кораке образложења, извршење кода или накнадне позиве модела. Без приписивања, финансијски тимови виде рачун, инжењерски тимови виде евиденцију, а ниједна страна нема јасан заједнички поглед на оно што се догодило.п>
<х2>Зашто је ово важно за платформе агенатах2>
<п>АИ наплата постаје конкурентна карактеристика. Током првог таласа усвајања АПИ-ја, приступ моделу и перформансе бенчмарка су доминирали разговором о куповини. Како је употреба прешла у производњу, нерешени проблеми су постали свакодневни и скупљи: буџети, фактуре, атрибуција, обрачун кеша, ограничења пројекта, откривање аномалија и поређење добављача.п>
<п>Гоогле-ов потез је сигнал да хиперскаларне платформе очекују да купци захтевају те контроле директно у производима вештачке интелигенције. Гемини Ентерприсе се не позиционира само као место за коришћење модела. То је све више место за управљање оперативним последицама коришћења модела у великом обиму.п>
<п>То мења очекивања за остатак тржишта. Ако пакети вештачке интелигенције засновани на облаку могу да објасне потрошњу према пројекту и кључу АПИ-ја, очекује се да платформе и мрежни пролази са више модела учине бар исто толико међу провајдерима. Тим који користи ОпенАИ, Антхропиц, Гоогле, АВС хостоване моделе и отворене примене кроз један стек апликација не може се ослањати само на ФинОпс слој једног облака. Потребан је нормализован поглед на употребу, избор модела и цену у целом имању.п>
<п>За Модел Гате и сличне мрежне пролазе компатибилне са ОпенАИ, практична веза је директна. Обједињена наплата и аналитика коришћења вештачке интелигенције више нису погодности бацк-оффице-а. Они су део контролне равни коју програмери и власници предузећа користе да одлуче који модели треба да буду доступни, који тимови могу да их користе и када је радно оптерећење постало прескупо за покретање како је дизајнирано.п>
<х2>Ко је погођенх2>
<п>Програмери предузећа који користе Гемини АПИ или Вертек АИ су најнепосреднија публика. Тимови са више АПИ кључева, сервисних налога, окружења или интерних агената требало би да добију боље сигнале о томе одакле долази потрошња у вези са Близанцима, под претпоставком да усвоје нове алате и јасно организују своје пројекте.п>
<п>Тимови за финансије и набавке су такође погођени. Трошкове вештачке интелигенције може бити тешко предвидети јер се употреба скалира са обимом задатака и понашањем агента, а не само са бројем запослених. Обједињавање квота на нивоу пројекта и извештавање на нивоу АПИ кључа могу да учине интерно повраћај средстава, преглед буџета и планирање обнове мање зависним од ручног рада са табелама.п><п>Тимови производа који праве АИ функције имају другачију бригу: маргину. Ако агент који се суочава са клијентима пречесто користи премиум модел или ако позадински ток посла поново покуша претерано, трошак може тихо премашити приход повезан са том функцијом. Боља атрибуција помаже тимовима да ухвате те обрасце пре него што постану структурални губици.п>
<п>Агенције, препродавци и добављачи услуга којима се управља, такође треба да обрате пажњу. Купци се све више питају не само да ли АИ функција функционише, већ и да ли се њеном употребом може управљати. За партнере који граде услуге на врху АПИ-ја са више модела, извештавање о трошковима по клијенту, пројекту, АПИ кључу и моделу постаје део понуде.п>
<х2>Границе Гоогле-овог приступах2>
<п>Отворено је питање колико ови алати смањују укупну потрошњу АИ у пракси. Гоогле-ове поруке о избегавању „шока налепница“ од вештачке интелигенције су разумљиве, али уштеде зависе од понашања корисника: да ли тимови постављају буџете, реагују на аномалије, мењају избор модела, поправљају неефикасне агенте или редизајнирају токове посла. Видљивост је неопходна, али није исто што и оптимизација.п>
<п>Постоји и питање за закључавање. Изворни алати за трошкове у облаку су корисни унутар њиховог сопственог екосистема, али многе компаније намерно шире АИ радна оптерећења међу провајдерима. Поглед специфичан за Гемини или Гоогле Цлоуд-центер можда неће објаснити пуну цену апликације која такође позива крајње тачке компатибилне са ОпенАИ негде другде, користи Бедроцк за регионално рутирање или приватно покреће отворене моделе.п>
<п>То је место где мрежни пролази још увек могу да додају вредност. Провајдер у облаку може открити богате детаље за своје услуге. Мрежни пролаз може да нормализује коришћење и наплату између добављача модела, АПИ кључева, тимова, апликација и клијената. Што више добављача у облаку учини АИ ФинОпс видљивим, то ће више купаца тражити исту видљивост за сваки модел који користе.п>
<х2>Шта би програмери сада требало да урадех2>
<п>Тимови који користе Гемини Ентерприсе треба да прегледају како су пројекти и АПИ кључеви структурирани. Ако се кључеви деле у превише апликација или окружења, извештавање о потрошњи на нивоу АПИ кључа биће мање корисно. Чиста атрибуција почиње одвајањем производње од развоја, услуга окренутих клијентима од експеримената и високоризичних агената од уобичајене интерактивне употребе.п>
<п>Програмери такође треба да третирају податке о трошковима као инжењерски сигнал. Шикови у потрошњи модела могу открити неефикасно подстицање, одбегле петље агента, неочекиване поновне покушаје, превелике прозоре контекста или изборе модела који више не одговарају задатку. Уочљивост трошкова спада поред кашњења, стопе грешке и процене квалитета, а не у месечном прегледу фактуре након што је штета учињена.п>
<п>Гоогле-ово обавештење није само још једно ажурирање обрачуна. То одражава ширу промену у АИ инфраструктури: како агенти постају аутономнији и употреба АПИ-ја постаје променљивија, способност објашњавања и контроле потрошње постаје основни захтев платформе.п>