Anthropic ha afegit dues funcions beta molt relacionades als Claude Missatges API: compactació de converses sota demanda i edició de context. Tots dos estan dirigits a un problema familiar per als desenvolupadors i els agents de creació: les converses útils solen durar més que el pressupost de context pràctic d'un model, sobretot quan s'acumulen trucades d'eines, documents recuperats i instruccions de diversos torns.
El canvi important és que Anthropic no només diu als desenvolupadors que resumeixin els missatges antics ells mateixos. Les seves notes de llançament de la plataforma del 14 de setembre descriuen un camí de compactació de nivell API, habilitat mitjançant la capçalera beta compact-2026-09-04, que retorna un bloc de compactació signat. Aquest bloc pot substituir l'historial de converses anterior en una sol·licitud posterior mentre els torns recents romanguin intactes. Anthropic també va introduir l'edició de context a la versió beta, centrada inicialment a esborrar automàticament els resultats d'eines anteriors i les trucades d'eines a mesura que una conversa s'acosta als límits de testimoni.
Per als equips d'aplicacions, aquesta és una funció d'usabilitat. Per als operadors de passarel·les, venedors d'observabilitat i empreses que normalitzen el trànsit entre proveïdors, es tracta d'un canvi de protocol. Una conversa Claude compactada ja no és només una sol·licitud més curta. Conté una representació signada i creada pel proveïdor del context anterior que s'ha de conservar com a tal.
Què ha canviat als Claude missatges API
En una integració de xat de llarga durada convencional, els desenvolupadors solen tenir tres opcions imperfectes quan la finestra de context s'omple. Poden deixar anar els torns antics, generar el seu propi resum o demanar a l'usuari que reiniciï. Cada opció pot danyar la continuïtat, amagar instruccions importants o dificultar la depuració. La nova versió beta de compactació de
Anthropic trasllada part d'aquest treball al API. El API pot produir un bloc de compactació signat per al contingut de la conversa anterior. Aleshores, una sol·licitud posterior pot enviar aquest bloqueig en lloc dels missatges anteriors, mentre que la conversa més recent es conserva textualment. El disseny és important perquè distingeix l'historial compactat del text de resum normal escrit per l'assistent. Una passarel·la que aplani el bloc en una cadena, treu camps desconeguts o el tracti com un missatge normal d'usuari pot trencar la semàntica prevista.
L'edició de context ataca una font relacionada de creixement del testimoni: el trànsit d'eines. Les aplicacions agències poden acumular grans sortides d'eines, trucades intermèdies i observacions obsoletes. Anthropic diu que la versió beta inicialment admet l'eliminació automàtica dels resultats i les trucades d'eines anteriors a mesura que la conversa s'acosta als límits de testimoni. Això té sentit per a molts fluxos de treball, però també significa que una resposta posterior del model pot dependre d'un estat de conversa que s'hagi retallat deliberadament per les regles del proveïdor.
Això és especialment rellevant per als equips que creen una capa de governança de la IA per sobre de diversos proveïdors de models. El sistema de govern ha de saber no només quina sol·licitud s'ha enviat, sinó també quines parts del context anterior s'han retingut, compactat o eliminat.
Per què les passarel·les no poden tractar-ho com a resum genèric
El risc d'implementació immediat és la compatibilitat. Moltes API passarel·les i SDK embolcalls validen les càrregues útils de sol·licituds amb esquemes coneguts. Es poden eliminar els paràmetres de nivell superior desconeguts. Els blocs de contingut desconeguts poden ser coaccionats per convertir-los en text. Les canalitzacions de registre poden redactar o transformar camps que no reconeixen. Aquests són valors predeterminats raonables per a metadades normals, però són perillosos quan l'objecte desconegut forma part del contracte de gestió de context del proveïdor de models.
Una passarel·la conscient Claude hauria de conservar el nou paràmetre de compactació i els blocs signats sense tornar-los a escriure. També hauria de fer una clara distinció en les traces entre missatges originals, context compactat i girs recents sense modificar. Aquesta distinció no és acadèmica.Quan un client pregunta per què un agent va prendre una decisió, la pista d'auditoria hauria de mostrar si el model tenia accés al resultat de l'eina original, una representació compactada o cap de les dues. Els productes de passarel·la compatibles amb
OpenAI s'enfronten a un problema de disseny addicional. L'ecosistema de xat i respostes d'estil OpenAI té els seus propis patrons de gestió del context, inclòs l'estat de l'agent allotjat i la gestió de sessions específica del proveïdor. El bloc de compactació signat de Anthropic és un objecte semàntic diferent. Un sol camp genèric anomenat "resum" o "memòria" no serà suficient si el sistema necessita preservar les garanties del proveïdor i el comportament de reproducció. Per tant, les plataformes d'estil
Model Gate que admeten tant API d'encaminament compatible amb OpenAI com Anthropic poden necessitar adaptadors de context específics del proveïdor. Això no vol dir que tots els clients vegin la complexitat. Significa que la passarel·la hauria d'exposar una experiència externa estable mentre manté la semàntica de compactació de Anthropic intacta internament.
L'anàlisi, la facturació i les pistes d'auditoria es fan més complicades
Les notes de la versió no diuen si els blocs de compactació signats es facturen de manera diferent del text del missatge normal. Aquest punt no resolt importa. Si un bloc compactat es compta com qualsevol altra entrada, els sistemes de facturació poden tractar-lo com un altre component de sol·licitud que porta testimonis. Si Anthropic aplica una comptabilitat diferent, les passarel·les hauran de representar aquesta diferència clarament a les factures dels clients i a les exportacions d'ús.
Fins i tot sense preus especials, la compactació canvia la manera d'explicar l'anàlisi. Una conversa pot semblar més curta a nivell de missatge tot i que encara té l'efecte d'un intercanvi previ molt més llarg. Els gràfics bàsics de testimoni no respondran preguntes com ara: quant de context original s'ha compactat, quant de context recent es va mantenir textualment, amb quina freqüència s'ha invocat la compactació i si els errors es correlacionen amb les sortides de l'eina esborrades automàticament.
Aquestes preguntes pertanyen a un tauler d'anàlisi d'ús AI API en lloc d'enterrar en els registres . Els clients empresarials esperen cada cop més veure els costos, el comportament del model i l'ús d'eines en la mateixa visió operativa. La compactació de la conversa afegeix una altra transició d'estat a aquesta vista.
També hi ha un angle de compliment. Si un client regulat pregunta quina informació estava disponible a un assistent en un moment concret, un operador no pot respondre únicament des de l'òrgan de sol·licitud final tret que entengui la cadena de compactació. Els blocs signats poden ajudar a preservar la integritat, però no eliminen la necessitat de regles de retenció acurades, rastres visibles per al client i eines de depuració internes.
Qui hauria d'actuar ara
Els desenvolupadors que utilitzin Claude directament haurien de revisar si el seu SDK, servidor intermediari o programari intermediari de registre passa la compactació de capçaleres de compactació de paràmetres superiors i de capçaleres de compactació sense canvis beta. També haurien de provar el comportament d'error quan els blocs de compactació es reprodueixen en desplegaments, regions o sol·liciten transformacions.
Els equips de passarel·la haurien d'afegir cobertura d'esquema abans que els clients es trobin amb una degradació silenciosa. El treball pràctic mínim és deixar de deixar caure o reescriure els nous camps. La millor versió és etiquetar el context compactat per separat als registres, traces i registres d'ús. Per als equips que ja proporcionen facturació d'IA unificada API, els esdeveniments de compactació haurien de ser prou visibles perquè els equips d'assistència puguin conciliar l'ús de testimonis i explicar el comportament de les sessions llargues.
Les empreses que executen agents d'assistència, assistents de codificació, eines de recerca o copilots de vendes haurien de tractar-ho com una funció de fiabilitat amb govern. La compactació pot fer que les converses llargues siguin més duradores, però també introdueix una altra capa oculta entre la transcripció del xat visible i l'estat d'entrada real del model.
Les preguntes obertes encara són materials. Anthropic no ha dit si els blocs de compactació canvien la comptabilitat dels testimonis facturats. L'estabilitat a llarg termini de la capçalera beta tampoc està garantida.I com que l'edició de context inicialment se centra en les trucades i els resultats d'eines més antigues, els desenvolupadors hauran de verificar si els valors predeterminats s'ajusten als fluxos de treball on les proves de les eines antigues segueixen sent importants des del punt de vista legal o operacional.
La direcció més àmplia és clara, però. La gestió de context llarg s'està passant del codi d'adhesió de l'aplicació a les API del proveïdor. Les passarel·les que volen situar-se de manera fiable entre els clients i els proveïdors de models ara han de donar suport a aquest moviment a nivell de protocol, no només enviant sol·licituds més breus.