OpenAI lançou o GPT-6.1 Terra por meio das APIs Responses e Chat Completions em 26 de outubro, adicionando um modelo de preço mais baixo voltado para cargas de trabalho que incluem o uso de computador. A taxa padrão API é de US$ 1 por milhão de tokens de entrada, US$ 0,05 por milhão de tokens de entrada armazenados em cache e US$ 5 por milhão de tokens de saída.
O Terra também está sendo implementado em ChatGPT Work e Codex, mas não está disponível na experiência padrão ChatGPT. Essa distinção é importante para as empresas que comunicam o acesso aos clientes: uma listagem API, um lançamento de produto no local de trabalho e a disponibilidade na interface de bate-papo do consumidor são canais de distribuição separados.
O lançamento cria uma nova OpenAI opção de roteamento entre modelos baratos usados para classificação ou extração e modelos de raciocínio mais caros. Isso também traz aos operadores de gateway um problema operacional familiar: o preço inicial é apenas o começo do trabalho de integração.
O preço do Terra depende do formato da carga de trabalho
Nas taxas publicadas, os tokens de saída custam cinco vezes mais que os tokens de entrada comuns. A entrada armazenada em cache custa 5% da taxa de entrada padrão. Os aplicativos que enviam repetidamente instruções estáveis, descrições de ferramentas ou outros contextos reutilizáveis podem, portanto, ver um perfil de custo materialmente diferente dos aplicativos que geram grandes respostas ou alteram continuamente seus prompts.
Isso é especialmente relevante para agentes que usam computadores. Esses sistemas podem passar por vários ciclos de observação, raciocínio e ação antes de completar uma tarefa. Mesmo quando o preço de entrada do modelo é baixo, resultados detalhados ou longos ciclos de ferramentas podem aumentar a conta total. A taxa anunciada de OpenAI deve, portanto, ser avaliada em relação ao custo completo da tarefa, e não apenas ao preço da primeira solicitação.
Equipes que usam IA unificada API faturamento precisarão de contabilidade separada para entrada comum, entrada e saída em cache. Resumir essas categorias em um único valor simbólico obscureceria tanto as cobranças dos clientes quanto as margens do gateway. As avaliações devem registrar tokens e custos durante toda a execução do agente, incluindo etapas com falha e novas tentativas.
Os gateways precisam de atualizações de metadados, políticas e compatibilidade
Adicionar o Terra a um multimodelo API gateway para equipes requer mais do que registrar seu ID de modelo. Os registros de catálogo precisam das três taxas de token, API superfícies suportadas, metadados de capacidade e restrições regionais. Os sistemas de roteamento também precisam distinguir se uma carga de trabalho se beneficia do cache imediato e se é provável que produza resultados suficientes ou iterações de ferramentas para eliminar a aparente vantagem do preço de entrada.
OpenAI diz que a residência de inferência nos Emirados Árabes Unidos não é suportada para este modelo. Um gateway que promete tratamento regional não pode tratar o Terra como um substituto intercambiável para outro modelo OpenAI quando um inquilino requer residência nos Emirados Árabes Unidos. A restrição deve ser visível na descoberta do modelo, aplicada na política de roteamento e preservada nos registros de solicitação para que os operadores possam explicar por que uma solicitação foi bloqueada ou enviada para outro lugar.
Os revendedores enfrentam um problema adicional de comunicação. Uma AI API plataforma de revenda não deve implicar que a assinatura ChatGPT de um cliente inclua acesso ao Terra API ou que API disponibilidade signifique que o modelo pode ser selecionado no padrão ChatGPT. Catálogos de produtos e relatórios de uso voltados para o cliente devem identificar o canal de acesso e o modelo efetivo separadamente.
Para Model Gate e serviços semelhantes compatíveis com OpenAI, a lista de verificação prática de lançamento inclui a adição do modelo, a aplicação de preços com reconhecimento de cache, a exposição da limitação de residência e o teste do comportamento das respostas e das conclusões do bate-papo. As regras de margem também podem precisar de revisão se os tokens armazenados em cache forem transmitidos ao custo do provedor, enquanto a entrada e a saída comuns carregam marcações diferentes.
As declarações de desempenho ainda precisam de testes independentes
OpenAI relatou melhorias de capacidade, velocidade e alucinação para Terra, mas essas afirmações não foram todas reproduzidas de forma independente. A comparação correta também varia de acordo com a carga de trabalho. Um modelo econômico para respostas estruturadas curtas pode ser menos atraente para um agente que emite raciocínios extensos, repete ações ou realiza longas sessões de uso do computador.
Os desenvolvedores devem avaliar o Terra com prompts representativos, ferramentas e limites de conclusão, em vez de transferir resultados de testes de bate-papo convencionais. Medições úteis incluem taxa de conclusão de tarefas, latência ponta a ponta, frequência de acertos no cache, volume de saída, número de ciclos de ferramenta e custo total por tarefa bem-sucedida.
A importância imediata do Terra, portanto, não é o fato de ele ser universalmente mais barato. Isso dá a API compradores outra faixa de preço OpenAI e aos sistemas de roteamento outro conjunto de compensações para modelar. A redução dos custos de produção dependerá do comportamento do armazenamento em cache, da duração da resposta, da eficiência do loop do agente e das políticas regionais anexadas a cada solicitação.