Anthropic přidal do Claude Messages API dvě úzce související beta funkce: komprimaci konverzací na vyžádání a úpravy kontextu. Oba se zaměřují na známý problém pro vývojáře, kteří vytvářejí asistenty a agenty: užitečné konverzace často trvají déle, než je praktický kontextový rozpočet modelu, zvláště když se hromadí volání nástrojů, načtené dokumenty a instrukce o více kolech.

Důležitou změnou je, že Anthropic neříká vývojářům pouze to, aby sami shrnuli staré zprávy. Poznámky k vydání platformy ze 14. září popisují cestu komprimace na úrovni API, která je povolena prostřednictvím beta hlavičky compact-2026-09-04, která vrací podepsaný komprimační blok. Tento blok může nahradit dřívější historii konverzace v pozdějším požadavku, zatímco poslední tahy zůstanou nedotčeny. Společnost Anthropic také v beta verzi představila úpravy kontextu, zpočátku zaměřené na automatické mazání výsledků starších nástrojů a volání nástrojů, když se konverzace blíží limitům tokenů.

Pro aplikační týmy jde o funkci použitelnosti. Pro operátory bran, dodavatele pozorovatelnosti a společnosti, které normalizují provoz mezi poskytovateli, jde o změnu protokolu. Kompaktní Claudeův rozhovor už není jen kratší výzva. Obsahuje poskytovatelem podepsanou reprezentaci předchozího kontextu, která by měla být jako taková zachována.

Co se změnilo v Claude Messages API

V konvenční dlouhotrvající integraci chatu mají vývojáři obvykle tři nedokonalé možnosti, když se kontextové okno zaplní. Mohou zahodit staré odbočky, vygenerovat vlastní souhrn nebo požádat uživatele o restart. Každá volba může poškodit kontinuitu, skrýt důležité pokyny nebo ztížit ladění.

Nová beta verze komprimace Anthropic přesune část této práce do API. Rozhraní API může vytvořit podepsaný komprimační blok pro dřívější obsah konverzace. Pozdější požadavek pak může poslat tento blok místo starších zpráv, zatímco zachování novější konverzace se změní doslovně. Na designu záleží, protože odlišuje kompaktní historii od běžného souhrnného textu autorského asistenta. Brána, která sloučí blok do řetězce, odstraní neznámá pole nebo s ním zachází jako s běžnou uživatelskou zprávou, může narušit zamýšlenou sémantiku.

Kontextové úpravy útočí na související zdroj růstu tokenů: provoz nástrojů. Agentické aplikace mohou akumulovat velké výstupy nástrojů, mezilehlá volání a zastaralá pozorování. Anthropic říká, že beta zpočátku podporuje automatické mazání výsledků starších nástrojů a volání, když se konverzace blíží limitům tokenů. To dává smysl pro mnoho pracovních postupů, ale také to znamená, že pozdější reakce modelu může záviset na stavu konverzace, který byl záměrně omezen pravidly na straně poskytovatele.

To je zvláště důležité pro týmy vytvářející vrstvu AI governance nad více poskytovateli modelů. Systém řízení potřebuje vědět nejen to, jaká výzva byla odeslána, ale také které části dřívějšího kontextu byly zachovány, zkomprimovány nebo odstraněny.

Proč to brány nemohou považovat za obecnou sumarizaci

Bezprostředním rizikem implementace je kompatibilita. Mnoho bran API a modulů SDK ověřuje datové části požadavků podle známých schémat. Neznámé parametry nejvyšší úrovně mohou být vynechány. Bloky neznámého obsahu mohou být vynuceny do textu. Protokolovací kanály mohou revidovat nebo transformovat pole, která nerozpoznají. To jsou rozumné výchozí hodnoty pro běžná metadata, ale jsou nebezpečné, když je neznámý objekt součástí smlouvy o správě kontextu poskytovatele modelu.

Brána s vědomím Claude by měla zachovat nový parametr komprimace a podepsané bloky, aniž by je přepisovala. Měl by také jasně rozlišovat ve stopách mezi původními zprávami, kompaktním kontextem a nedávnými nezměněnými obraty. Toto rozlišení není akademické. Když se zákazník zeptá, proč se agent rozhodl, auditní záznam by měl ukázat, zda model měl přístup k původnímu výsledku nástroje, kompaktní reprezentaci nebo ani jeden.

Produkty brány kompatibilní s OpenAI čelí dalšímu konstrukčnímu problému. Ekosystém chatu a odpovědí ve stylu OpenAI má své vlastní vzorce správy kontextu, včetně stavu hostovaného agenta a zpracování relací specifických pro poskytovatele. Signovaný zhutňovací blok Anthropic je jiný sémantický objekt. Jediné generické pole nazvané „summary“ nebo „memory“ nebude stačit, pokud systém potřebuje zachovat záruky poskytovatele a chování při přehrávání.

Modelové platformy typu Gate, které podporují směrování kompatibilní s OpenAI i rozhraní API antropického stylu, proto mohou potřebovat kontextové adaptéry specifické pro poskytovatele. To neznamená, že každý zákazník vidí složitost.Znamená to, že brána by měla odhalit stabilní externí prostředí a zároveň zachovat interně nedotčenou sémantiku zhutnění Anthropic.

Analytika, fakturace a auditní záznamy jsou komplikovanější

Poznámky k vydání neříkají, zda jsou podepsané komprimační bloky účtovány odlišně od běžného textu zprávy. Ten nevyřešený bod je důležitý. Pokud se komprimovaný blok počítá jako jakýkoli jiný vstup, mohou s ním účtovací systémy nakládat jako s další komponentou požadavku nesoucí token. Pokud společnost Anthropic použije jiné účetnictví, brány budou muset tento rozdíl jasně reprezentovat v zákaznických fakturách a exportech použití.

I bez speciálních cen změní komprimace způsob, jakým by měla být analýza vysvětlována. Konverzace se může zdát kratší na úrovni zprávy, přičemž stále nese efekt mnohem delší předchozí výměny. Základní tokenové grafy neodpoví na otázky jako: kolik byl původní kontext zkomprimován, kolik nedávných kontextů zůstalo doslovně, jak často bylo zhutnění vyvoláno a zda selhání koreluje s automaticky vymazanými výstupy nástroje.

Tyto otázky patří spíše do sjednocenou fakturaci rozhraní AI API, by měly být události komprimace dostatečně viditelné, aby týmy podpory mohly sladit používání tokenu a vysvětlit chování při dlouhých relacích.

Firmy provozující agenty podpory, asistenty kódování, výzkumné nástroje nebo kopiloty prodeje by to měly považovat za kontrolní funkci. Zhutnění může učinit dlouhé konverzace odolnější, ale také zavádí další skrytou vrstvu mezi viditelným přepisem chatu a skutečným vstupním stavem modelu.

Otevřené otázky jsou stále podstatné. Společnost Antropic neuvedla, zda zhutňovací bloky změní fakturované účtování tokenů. Rovněž není zaručena dlouhodobá stabilita beta hlavičky. A protože se kontextové úpravy zpočátku soustředí na volání a výsledky starších nástrojů, vývojáři budou muset ověřit, jak dobře výchozí nastavení vyhovují pracovním postupům, kde důkazy o starých nástrojích zůstávají právně nebo provozně důležité.

Širší směr je však jasný. Správa dlouhého kontextu se přesouvá z kódu aplikačního lepidla do rozhraní API poskytovatelů. Brány, které chtějí spolehlivě sedět mezi zákazníky a poskytovateli modelů, musí nyní podporovat tento pohyb na úrovni protokolu, nikoli pouze přeposíláním kratších výzev.