<п>ОпенРоутер је додао бета алатку за извршавање љуске и АПИ датотека, дајући програмерима начин да дозволе моделима за позивање алата да покрећу команде у изолованим Линук контејнерима кроз ОпенРоутеров слој за рутирање. Издање је више од друге функције агента. То мења рачуноводствени модел за мултимоделну АИ инфраструктуру: захтев сада може да садржи токене модела, време извршења алата, руковање датотекама и понашање компатибилности у више од једног АПИ стила. <п>Нова серверска алатка, названа <цоде>опенроутер:схелл, омогућава подржаним моделима да извршавају команде у хостованим контејнерима и враћају стандардне резултате извршења, укључујући стдоут, стдерр и излазне кодове. ОпенРоутер каже да алатка функционише преко путање АПИ-ја за одговоре и путање компатибилности АПИ-ја Антропских порука, што је важно јер програмери све више покушавају да имплементације агената задрже преносивим преко добављача модела уместо да сваки ток посла везују за изворни интерфејс алата једног добављача. <п>ОпенРоутер цени сандбок за 0,0001 УСД по секунди, наплаћено као део захтева. Коришћење Филес АПИ-ја је укључено током бета верзије. То ствара одвојену димензију трошкова од обичних улазних и излазних токена, а оператерима мрежног пролаза даје конкретан пример зашто <а хреф="/ен/топицс/унифиед-аи-апи-биллинг/">обједињена наплата АИ АПИ-ја постаје све теже од сумирања трошкова модела токена. <х2>Шта се променило <п>До недавно, извршавање хостованог кода је обично било везано за стацк агената специфичног за провајдера или је од програмера захтевало да управљају сопственом флотом сандбок-а. ОпенРоутер бета умеће ту могућност у платформу за рутирање која се већ користи за приступ многим моделима. У пракси, агент може затражити од модела да прегледа податке, покрене скрипте, манипулише датотекама или тестира мале делове кода, а да тим за апликације не обезбеди контејнере директно за свако покретање. <п>Детаљи о компатибилности су важни. ОпенРоутер позиционира схелл алат не као могућност једне породице модела, већ као површину алата на нивоу платформе доступну кроз познате АПИ обрасце. За тимове који су изградили семантику одговора у ОпенАИ стилу или семантику порука у антропском стилу, хостована алатка може да се налази ближе слоју мрежног пролаза него слоју модела. <п>То не чини понашање алата магично униформним. Различити модели се разликују по начину на који позивају алате, опорављају се од кварова, образлажу излаз команди и управљају датотекама. Али одлука о инфраструктури се мења. Уместо да питају само који модел може да напише команду љуске, програмери сада морају да питају који гатеваи може безбедно да је изврши, измери и врати резултате у облику АПИ-ја који њихов клијент већ разуме. <х2>Зашто је мерење времена рада важно <п>Цена токена више није довољна да опише цену захтева агента. Једна радња корисника може укључивати промпт, неколико окрета модела, отпремање датотека, извршавање љуске, поновне покушаје и коначно сумирање. Скупи део може бити излаз модела, или може бити дуготрајна команда која производи мало текста. ОпенРоутер-ова цена сандбок-а по секунди чини ту разлику експлицитном. <п>За програмере, непосредна последица је дизајн буџета. За петље агента потребна су ограничења трајања команде, понашања при поновном покушају и претпоставки о задржавању датотека. Захтев безопасног изгледа који се проширује на поновљене позиве љуске може акумулирати трошкове за време извршавања чак и ако употреба токена остане скромна. Евидентирање треба да прикаже не само број модела, добављача и токена, већ и назив алата, трајање извршења, статус излаза и да ли је модел поново покушао након грешке. <п>За предузећа која се граде преко модела мрежних пролаза, промена се односи на маргине и извештавање клијената. Партнерски производ који препродаје аутоматизацију вештачке интелигенције не може сваки захтев третирати као довршавање текста са ознаком. Потребна му је књига коришћења која може да припише цену модела и хостовану цену алата правом радном простору, крајњем купцу или АПИ кључу. То је директно релевантно за <а хреф="/ен/топицс/партнер-реселлер-апи-аи-аццесс/">аутоматизацију партнерског АПИ-ја, где клијент на нижем току можда никада неће видети необрађену фактуру ОпенРоутер-а, али и даље очекује кохерентан рачун. <х2>Ко је погођен <п>Прва погођена група су програмери агената који желе извршавање кода без обавезивања на пуну платформу агента једног добављача модела. Приступ ОпенРоутер-а може да се допадне тимовима који већ усмеравају саобраћај преко модела и желе да додају приступ љусци уз очување извесне флексибилности у избору модела. <п>Друга група су тимови платформи и пролаза. Они сада морају да одлуче да ли су хостовани алати првокласне каталошке ставке, да ли се могу омогућити по радном простору и како се њихови трошкови појављују на контролној табли. Ред каталога модела ће можда морати да буде упарен са доступношћу алата, ограничењима времена рада и напоменама о компатибилности. Контрола приступа ће можда морати да прави разлику између дозвољавања позива модела и дозвољавања том позиву да покрене контејнер.<п>Трећа група су финансијски и оперативни тимови који управљају потрошњом на вештачку интелигенцију. Аналитика коришћења која се зауставља на токенима ће пропустити растућу класу трошкова инфраструктуре агента. Корисна <а хреф="/ен/топицс/аи-апи-усаге-аналитицс-дасхбоард/">контролна табла за аналитику коришћења АИ АПИ-ја би требало да покаже да ли је до пораста дошло због избора модела, обима токена, времена извршавања сандбок-а или промене дизајна тока посла која је изазвала додатне позиве алатки. <х2>Шта остаје неизвесно <п>Бета оставља неколико практичних питања отвореним. ОпенРоутер каже да је употреба Филес АПИ-ја укључена у схелл алат током бета верзије, али дугорочне цене датотека, правила задржавања и оперативна ограничења могу и даље бити важни за производна радна оптерећења. Програмери ће такође морати да тестирају који модели поуздано раде са схелл алатом на подржаним путањама компатибилности АПИ-ја. <п>Безбедност је још једно нерешено питање имплементације за купце. ОпенРоутер описује да се команде изводе у изолованим хостованим Линук контејнерима, али предузећа ће и даље питати о приступу мрежи, инсталацији пакета, постојаности датотека, евиденцијама ревизије и руковању подацима пре слања осетљивих радних оптерећења кроз хостовано окружење за извршавање. <п>Шири правац је ипак јасан: мрежни пролази апсорбују више времена извршавања агента. Рутирање модела је некада значило избор где се шаље упит. Сада све више укључује семантику алата, стање датотеке, политику извршавања и мерење без токена. ОпенРоутер-ова схелл бета је користан маркер јер приписује јасну цену могућности коју су многи градитељи агената третирали као позадинску инфраструктуру. Када се време извршења појави на рачуну, оно постаје део архитектуре производа.