OpenAI släppte GPT-6.1 Terra genom API:erna Responses and Chat Completions den 26 oktober, och lade till en billigare modell riktad mot arbetsbelastningar som inkluderar datoranvändning. Standardpriset API är 1 USD per miljon indatatoken, 0,05 USD per miljon cachade indatatoken och 5 USD per miljon utdatatokens.
Terra lanseras också i ChatGPT Work och Codex, men det är inte tillgängligt i standardupplevelsen ChatGPT. Den distinktionen är viktig för företag som kommunicerar åtkomst till kunder: en API-notering, en lansering av en arbetsplatsprodukt och tillgänglighet i konsumentchattgränssnittet är separata distributionskanaler.
Lanseringen skapar ett nytt OpenAI ruttalternativ mellan billiga modeller som används för klassificering eller extrahering och mer kostsamma resonemangsmodeller. Det ger också gateway-operatörer ett välkänt driftsproblem: rubrikpriset är bara början på integrationsarbetet.
Terras pris beror på arbetsbelastningens form
Med de publicerade priserna kostar utdatatoken fem gånger så mycket som vanliga indatatoken. Cachad indata är prissatt till 5 % av standardinmatningshastigheten. Applikationer som upprepade gånger skickar stabila instruktioner, verktygsbeskrivningar eller andra återanvändbara sammanhang kan därför se en väsentligt annorlunda kostnadsprofil än applikationer som genererar stora svar eller kontinuerligt ändrar sina meddelanden.
Detta är särskilt relevant för datoranvändande agenter. Sådana system kan gå igenom flera observations-, resonemangs- och handlingscykler innan de slutför en uppgift. Även när modellens ingångspris är lågt, kan utförliga utgångar eller långa verktygsöglor höja den totala räkningen. OpenAIs aviserade pris bör därför utvärderas mot den totala uppgiftskostnaden, inte bara priset för den första begäran.
Team som använder unified AI API billing kommer att behöva separat redovisning för vanlig indata, cachad indata och utdata. Att kollapsa dessa kategorier till en blandad symbolfigur skulle skymma både kundavgifter och gatewaymarginaler. Utvärderingar bör registrera tokens och kostnader för hela agentkörningen, inklusive misslyckade steg och återförsök.
Gateways behöver uppdateringar av metadata, policy och kompatibilitet
Att lägga till Terra till en multi-model API gateway för team kräver mer än att registrera dess modell-ID. Katalogposter behöver de tre tokenhastigheterna, stödda API-ytor, kapacitetsmetadata och regionala begränsningar. Routingsystem måste också särskilja om en arbetsbelastning drar nytta av snabb cachelagring och om den sannolikt kommer att producera tillräckligt med utdata eller verktygsupprepningar för att radera den uppenbara indata-prisfördelen.
OpenAI säger att UAE-inferensuppehållstillstånd inte stöds för den här modellen. En gateway som lovar regional hantering kan inte behandla Terra som ett utbytbart substitut för en annan OpenAI-modell när en hyresgäst kräver hemvist i Förenade Arabemiraten. Begränsningen bör vara synlig i modellupptäckt, tillämpas i routingpolicy och bevaras i förfrågningsloggar så att operatörer kan förklara varför en begäran blockerades eller skickades någon annanstans.
Återförsäljare står inför ett ytterligare kommunikationsproblem. En AI API återförsäljarplattform bör inte antyda att en kunds ChatGPT-prenumeration inkluderar Terra API-åtkomst, eller att API-tillgänglighet betyder att modellen kan väljas i standardChatGPT. Produktkataloger och kundinriktade användningsrapporter bör identifiera åtkomstkanalen och effektiv modell separat.
För Model Gate och liknande OpenAI-kompatibla tjänster inkluderar den praktiska checklistan för utgåvor att lägga till modellen, tillämpa cachemedvetna priser, exponera uppehållsbegränsningen och testa beteendet för både svar och chattavslut. Marginalregler kan också behöva revideras om cachade tokens skickas till leverantörens kostnad medan ordinarie input och output har olika markeringar.
Prestandanspråk behöver fortfarande oberoende testning
OpenAI har rapporterat förbättringar av förmåga, hastighet och hallucinationer för Terra, men alla dessa påståenden har inte alla reproducerats oberoende. Rätt jämförelse kommer också att variera beroende på arbetsbelastning. En modell som är ekonomisk för korta strukturerade svar kan vara mindre attraktiv för en agent som avger omfattande resonemang, försöker igen åtgärder eller utför långa datoranvändningssessioner.
Utvecklare bör jämföra Terra med representativa uppmaningar, verktyg och slutförandegränser snarare än att överföra resultat från konventionella chatttest. Användbara mätningar inkluderar slutförandegrad av uppgift, fördröjning från slut till slut, frekvens för cacheträff, utvolym, antal verktygscykler och total kostnad per framgångsrik uppgift.
Terras omedelbara betydelse är därför inte att det är universellt billigare. Det ger API köpare ytterligare OpenAI prisintervall och ger routingsystem ytterligare en uppsättning kompromisser att modellera. Huruvida det minskar produktionskostnaderna beror på cachningsbeteende, svarslängd, agentloopeffektivitet och de regionala policyer som är kopplade till varje begäran.