Anthropic a ajouté deux fonctionnalités bêta étroitement liées à l'API Claude Messages : le compactage des conversations à la demande et l'édition du contexte. Les deux visent un problème familier aux développeurs qui créent des assistants et des agents : les conversations utiles durent souvent plus longtemps que le budget de contexte pratique d'un modèle, en particulier lorsque les appels d'outils, les documents récupérés et les instructions multi-tours s'accumulent.
Le changement important est qu'Anthropic ne demande pas seulement aux développeurs de résumer eux-mêmes les anciens messages. Les notes de version de la plateforme du 14 septembre décrivent un chemin de compactage au niveau de l'API, activé via l'en-tête bêta compact-2026-09-04, qui renvoie un bloc de compactage signé. Ce bloc peut remplacer l’historique des conversations antérieures dans une demande ultérieure tandis que les tours récents restent intacts. Anthropic a également introduit l'édition de contexte en version bêta, initialement axée sur la suppression automatique des anciens résultats d'outils et des appels d'outils lorsqu'une conversation approche des limites de jetons.
Pour les équipes d'application, il s'agit d'une fonctionnalité de convivialité. Pour les opérateurs de passerelles, les fournisseurs d’observabilité et les entreprises qui normalisent le trafic entre fournisseurs, il s’agit d’un changement de protocole. Une conversation compactée avec Claude n'est plus seulement une invite plus courte. Il contient une représentation signée et créée par le fournisseur du contexte antérieur qui doit être préservée en tant que telle.
Ce qui a changé dans l'API Claude Messages
Dans une intégration de chat conventionnelle de longue durée, les développeurs disposent généralement de trois options imparfaites lorsque la fenêtre de contexte se remplit. Ils peuvent supprimer les anciens tours, générer leur propre résumé ou demander à l'utilisateur de redémarrer. Chaque choix peut nuire à la continuité, masquer des instructions importantes ou rendre le débogage plus difficile.
La nouvelle version bêta de compactage d'Anthropic déplace une partie de ce travail dans l'API. L'API peut produire un bloc de compactage signé pour le contenu d'une conversation antérieure. Une requête ultérieure peut alors envoyer ce bloc à la place des anciens messages, tout en préservant la conversation textuelle. La conception est importante car elle distingue l’histoire compactée du texte résumé ordinaire rédigé par un assistant. Une passerelle qui aplatit le bloc en une chaîne, supprime les champs inconnus ou le traite comme un message utilisateur normal peut briser la sémantique prévue.
L'édition de contexte attaque une source connexe de croissance des jetons : le trafic des outils. Les applications agentiques peuvent accumuler des sorties d'outils volumineuses, des appels intermédiaires et des observations obsolètes. Anthropic indique que la version bêta prend initialement en charge la suppression automatique des résultats et des appels des anciens outils lorsque la conversation approche des limites de jetons. Cela est logique pour de nombreux flux de travail, mais cela signifie également qu'une réponse ultérieure du modèle peut dépendre d'un état de conversation qui a été délibérément élagué par les règles côté fournisseur.
Cela est particulièrement pertinent pour les équipes qui créent une couche de gouvernance de l'IA au-dessus de plusieurs fournisseurs de modèles. Le système de gouvernance doit savoir non seulement quelle invite a été envoyée, mais également quelles parties du contexte précédent ont été conservées, compactées ou supprimées.
Pourquoi les passerelles ne peuvent pas traiter cela comme un résumé générique
Le risque immédiat de mise en œuvre est la compatibilité. De nombreuses passerelles API et wrappers SDK valident les charges utiles des requêtes par rapport à des schémas connus. Les paramètres de niveau supérieur inconnus peuvent être supprimés. Des blocs de contenu inconnus peuvent être intégrés dans du texte. Les pipelines de journalisation peuvent supprimer ou transformer des champs qu'ils ne reconnaissent pas. Ce sont des valeurs par défaut raisonnables pour les métadonnées ordinaires, mais elles sont dangereuses lorsque l'objet inconnu fait partie du contrat de gestion de contexte du fournisseur de modèles.
Une passerelle compatible Claude doit conserver le nouveau paramètre de compactage et les blocs signés sans les réécrire. Il devrait également faire une distinction claire dans les traces entre les messages originaux, le contexte compacté et les tournants récents non modifiés. Cette distinction n’est pas académique. Lorsqu'un client demande pourquoi un agent a pris une décision, la piste d'audit doit indiquer si le modèle a eu accès au résultat original de l'outil, à une représentation compactée ou ni l'un ni l'autre.
Les produits de passerelle compatibles OpenAI sont confrontés à un problème de conception supplémentaire. L'écosystème de discussion et de réponses de style OpenAI possède ses propres modèles de gestion du contexte, notamment l'état de l'agent hébergé et la gestion des sessions spécifiques au fournisseur. Le bloc de compactage signé d'Anthropic est un objet sémantique différent. Un seul champ générique appelé « résumé » ou « mémoire » ne suffira pas si le système doit préserver les garanties du fournisseur et le comportement de relecture.
Les plates-formes de style Model Gate qui prennent en charge à la fois le routage compatible OpenAI et les API de style Anthropic peuvent donc nécessiter des adaptateurs de contexte spécifiques au fournisseur. Cela ne signifie pas que tous les clients voient la complexité.Cela signifie que la passerelle doit exposer une expérience externe stable tout en gardant intacte la sémantique de compactage d'Anthropic en interne.
Les analyses, la facturation et les pistes d'audit deviennent plus compliquées
Les notes de version ne précisent pas si les blocs de compactage signés sont facturés différemment du texte du message ordinaire. Ce point non résolu est important. Si un bloc compacté est compté comme n’importe quelle autre entrée, les systèmes de facturation peuvent le traiter comme un autre composant de demande portant un jeton. Si Anthropic applique une comptabilité différente, les passerelles devront clairement représenter cette différence dans les factures clients et les exportations d'utilisation.
Même sans tarification spéciale, le compactage modifie la manière dont les analyses doivent être expliquées. Une conversation peut paraître plus courte au niveau du message tout en conservant l’effet d’un échange antérieur beaucoup plus long. Les graphiques de jetons de base ne répondront pas à des questions telles que : la quantité de contexte d'origine qui a été compactée, la quantité de contexte récent restée textuellement, la fréquence à laquelle le compactage a été invoqué et si les échecs sont en corrélation avec les sorties de l'outil automatiquement effacées.
Ces questions appartiennent à un tableau de bord d'analyse de l'utilisation de l'API IA plutôt qu'enfouies dans les journaux bruts. Les entreprises clientes s'attendent de plus en plus à voir les coûts, le comportement du modèle et l'utilisation des outils dans la même vue opérationnelle. Le compactage des conversations ajoute une autre transition d'état à cette vue.
Il existe également un angle de conformité. Si un client régulé demande quelles informations étaient à la disposition d'un assistant à un moment donné, un opérateur ne peut répondre uniquement à partir de l'organisme de demande finale s'il ne comprend pas la chaîne de compactage. Les blocs signés peuvent aider à préserver l'intégrité, mais ils ne suppriment pas le besoin de règles de conservation minutieuses, de traces visibles par le client et d'outils de débogage internes.
Qui doit agir maintenant
Les développeurs utilisant Claude directement doivent vérifier si leur SDK, proxy ou middleware de journalisation transmet les en-têtes bêta, le paramètre de compactage de niveau supérieur et les blocs de compactage renvoyés inchangés. Ils doivent également tester le comportement en cas d'échec lorsque les blocs de compactage sont rejoués dans les déploiements, les régions ou les transformations de requêtes.
Les équipes de passerelle doivent ajouter une couverture de schéma avant que les clients ne soient confrontés à une dégradation silencieuse. Le travail pratique minimum est d'arrêter de supprimer ou de réécrire les nouveaux champs. La meilleure version consiste à étiqueter le contexte compacté séparément dans les journaux, les traces et les enregistrements d'utilisation. Pour les équipes qui proposent déjà une facturation unifiée des API d'IA, les événements de compactage doivent être suffisamment visibles pour que les équipes d'assistance puissent réconcilier l'utilisation des jetons et expliquer le comportement des sessions longues.
Les entreprises qui gèrent des agents d'assistance, des assistants de codage, des outils de recherche ou des copilotes commerciaux doivent considérer cela comme une fonctionnalité de fiabilité ayant des conséquences sur la gouvernance. Le compactage peut rendre les longues conversations plus durables, mais il introduit également une autre couche cachée entre la transcription visible du chat et l'état d'entrée réel du modèle.
Les questions ouvertes sont toujours importantes. Anthropic n'a pas précisé si les blocs de compactage modifiaient la comptabilité des jetons facturés. La stabilité à long terme de l’en-tête bêta n’est pas non plus garantie. Et comme l'édition contextuelle se concentre initialement sur les anciens appels et résultats d'outils, les développeurs devront vérifier dans quelle mesure les valeurs par défaut s'adaptent aux flux de travail dans lesquels les anciennes preuves d'outils restent importantes sur le plan juridique ou opérationnel.
La direction générale est cependant claire. La gestion des contextes longs passe du code de colle d'application aux API des fournisseurs. Les passerelles qui souhaitent assurer une liaison fiable entre les clients et les fournisseurs de modèles doivent désormais prendre en charge ce mouvement au niveau du protocole, et pas seulement en transmettant des invites plus courtes.