Anthropic dodał dwie ściśle powiązane funkcje beta do interfejsu API Claude Messages: zagęszczanie konwersacji na żądanie i edytowanie kontekstu. Obydwa dotyczą problemu znanego programistom, asystentom i agentom budującym: przydatne rozmowy często trwają dłużej niż praktyczny budżet kontekstowy modelu, zwłaszcza gdy kumulują się wywołania narzędzi, pobrane dokumenty i instrukcje wieloobrotowe.

Ważna zmiana polega na tym, że Anthropic nie tylko każe programistom samodzielnie podsumowywać stare wiadomości. Informacje o wersji platformy z 14 września opisują ścieżkę kompaktowania na poziomie interfejsu API, włączaną za pomocą nagłówka beta compact-2026-09-04, który zwraca podpisany blok kompaktowania. Blok ten może zastąpić wcześniejszą historię konwersacji w późniejszym żądaniu, podczas gdy ostatnie tury pozostają nienaruszone. Anthropic wprowadził także w wersji beta edycję kontekstu, początkowo skupiającą się na automatycznym czyszczeniu starszych wyników narzędzi i wywołań narzędzi, gdy rozmowa zbliża się do limitów tokenów.

Dla zespołów zajmujących się aplikacjami jest to funkcja użyteczności. Dla operatorów bram, dostawców możliwości obserwowania i firm normalizujących ruch między dostawcami jest to zmiana protokołu. Skomplikowana rozmowa Claude'a nie jest już tylko krótszą podpowiedzią. Zawiera utworzoną przez dostawcę, podpisaną reprezentację wcześniejszego kontekstu, która powinna zostać zachowana jako taka.

Co zmieniło się w interfejsie API Claude Messages

W przypadku konwencjonalnej, długotrwałej integracji czatu programiści zwykle mają trzy niedoskonałe opcje, gdy okno kontekstu się zapełnia. Mogą porzucić stare tury, wygenerować własne podsumowanie lub poprosić użytkownika o ponowne uruchomienie. Każdy wybór może uszkodzić ciągłość, ukryć ważne instrukcje lub utrudnić debugowanie.

Nowa wersja beta Anthropic polegająca na kompaktowaniu przenosi część tej pracy do interfejsu API. Interfejs API może wygenerować podpisany blok zagęszczający dla wcześniejszej treści konwersacji. Późniejsze żądanie może następnie wysłać ten blok w miejsce starszych wiadomości, zachowując jednocześnie nowszą konwersację. Projekt ma znaczenie, ponieważ odróżnia zwartą historię od zwykłego streszczenia napisanego przez asystenta. Brama, która spłaszcza blok w ciąg znaków, usuwa nieznane pola lub traktuje go jak normalny komunikat użytkownika, może złamać zamierzoną semantykę.

Edytowanie kontekstu atakuje powiązane źródło wzrostu tokenów: ruch narzędziowy. Aplikacje agentowe mogą gromadzić duże wyniki narzędzi, wywołania pośrednie i nieaktualne obserwacje. Anthropic twierdzi, że wersja beta początkowo obsługuje automatyczne czyszczenie wyników i wywołań starszych narzędzi, gdy rozmowa zbliża się do limitu tokenów. Ma to sens w przypadku wielu przepływów pracy, ale oznacza również, że późniejsza odpowiedź modelu może zależeć od stanu konwersacji, który został celowo oczyszczony przez reguły po stronie dostawcy.

Jest to szczególnie istotne w przypadku zespołów tworzących warstwę zarządzania sztuczną inteligencją powyżej wielu dostawców modeli. System zarządzania musi wiedzieć nie tylko, jaki komunikat został wysłany, ale także, które części wcześniejszego kontekstu zostały zachowane, skompresowane lub usunięte.

Dlaczego bramki nie mogą traktować tego jako ogólnego podsumowania

Bezpośrednim ryzykiem wdrożenia jest zgodność. Wiele bram API i opakowań SDK weryfikuje ładunki żądań w oparciu o znane schematy. Nieznane parametry najwyższego poziomu mogą zostać usunięte. Nieznane bloki treści mogą zostać zamienione na tekst. Potoki rejestrowania mogą redagować lub przekształcać pola, których nie rozpoznają. Są to rozsądne wartości domyślne w przypadku zwykłych metadanych, ale są niebezpieczne, gdy nieznany obiekt jest częścią umowy dostawcy modelu o zarządzanie kontekstem.

Brama obsługująca Claude powinna zachować nowy parametr zagęszczenia i podpisane bloki bez ich przepisywania. Powinien także wyraźnie rozróżniać w śladach oryginalne wiadomości, zwięzły kontekst i niedawne, niezmodyfikowane zwroty akcji. To rozróżnienie nie ma charakteru akademickiego. Gdy klient pyta, dlaczego agent podjął decyzję, ścieżka audytu powinna wykazać, czy model miał dostęp do oryginalnego wyniku narzędzia, skompresowanej reprezentacji, czy też żadnego z nich.

Produkty bramowe kompatybilne z OpenAI napotykają dodatkowy problem projektowy. Ekosystem czatów i odpowiedzi w stylu OpenAI ma własne wzorce zarządzania kontekstem, w tym stan hostowanego agenta i obsługę sesji specyficzną dla dostawcy. Podpisany blok zagęszczający firmy Anthropic to inny obiekt semantyczny. Pojedyncze ogólne pole zwane „podsumowaniem” lub „pamięcią” nie wystarczy, jeśli system musi zachować gwarancje dostawcy i zachowanie odtwarzania.

Platformy w stylu Model Gate, które obsługują zarówno routing zgodny z OpenAI, jak i interfejsy API w stylu Anthropic, mogą zatem potrzebować adapterów kontekstowych specyficznych dla dostawcy. Nie oznacza to, że każdy klient dostrzega złożoność.Oznacza to, że brama powinna zapewniać stabilne środowisko zewnętrzne, zachowując jednocześnie wewnętrznie nienaruszoną semantykę zagęszczania Anthropic.

Analizy, fakturowanie i ścieżki audytu stają się coraz bardziej skomplikowane

W informacjach o wersji nie podano, czy podpisane bloki zagęszczania są rozliczane inaczej niż w przypadku zwykłego tekstu wiadomości. Ta nierozwiązana kwestia ma znaczenie. Jeśli skompresowany blok jest liczony jak inne dane wejściowe, systemy rozliczeniowe mogą potraktować go jako kolejny komponent żądania zawierający token. Jeśli Anthropic zastosuje inną księgowość, bramki będą musiały wyraźnie przedstawiać tę różnicę na fakturach klientów i eksporcie wykorzystania.

Nawet bez specjalnych cen, zagęszczenie zmienia sposób wyjaśniania analiz. Rozmowa może wydawać się krótsza na poziomie wiadomości, a jednocześnie nieść ze sobą efekt znacznie dłuższej wcześniejszej wymiany zdań. Podstawowe wykresy tokenów nie odpowiadają na pytania takie jak: w jakim stopniu pierwotny kontekst został zagęszczony, ile najnowszego kontekstu pozostało dosłownie, jak często wywoływano zagęszczanie i czy awarie korelują z automatycznie wyczyszczonymi danymi wyjściowymi narzędzia.

Te pytania należy umieszczać w panelu analitycznym wykorzystania interfejsu API AI, a nie w surowych dziennikach. Klienci korporacyjni coraz częściej oczekują, że koszty, zachowanie modelu i użycie narzędzi będą widoczne w tym samym ujęciu operacyjnym. Zagęszczanie konwersacji dodaje do tego widoku kolejne przejście stanu.

Istnieje również aspekt zgodności. Jeżeli regulowany klient zapyta, jakie informacje były dostępne dla asystenta w danym momencie, operator nie może odpowiedzieć wyłącznie od ostatecznej treści wniosku, chyba że rozumie on łańcuch zagęszczania. Podpisane bloki mogą pomóc w zachowaniu integralności, ale nie eliminują potrzeby stosowania dokładnych reguł przechowywania, śladów widocznych dla klienta i narzędzi do wewnętrznego debugowania.

Kto powinien teraz działać

Programiści korzystający bezpośrednio z Claude powinni sprawdzić, czy ich SDK, proxy lub oprogramowanie pośredniczące do rejestrowania przechodzi nagłówki wersji beta, parametr zagęszczania najwyższego poziomu i zwracane bloki zagęszczania bez zmian. Powinni także przetestować zachowanie w przypadku awarii, gdy bloki kompresji są odtwarzane w różnych wdrożeniach, regionach lub w przypadku transformacji żądań.

Zespoły zajmujące się bramami powinny dodać pokrycie schematu, zanim klienci napotkają cichą degradację. Minimalna praktyczna praca polega na zaprzestaniu upuszczania lub przepisywania nowych pól. Lepsza wersja polega na osobnym oznaczaniu skompaktowanego kontekstu w dziennikach, śladach i zapisach użytkowania. W przypadku zespołów, które już zapewniają ujednolicone rozliczenia interfejsu API AI, zdarzenia zagęszczania powinny być na tyle widoczne, aby zespoły pomocy technicznej mogły uzgodnić użycie tokena i wyjaśnić zachowanie podczas długich sesji.

Firmy prowadzące agentów pomocy technicznej, asystentów kodowania, narzędzia badawcze lub drugich pilotów sprzedaży powinny traktować to jako funkcję zapewniającą niezawodność mającą konsekwencje w zakresie zarządzania. Kompaktowanie może sprawić, że długie rozmowy będą trwalsze, ale wprowadza także kolejną ukrytą warstwę pomiędzy widoczną transkrypcją czatu a rzeczywistym stanem wejściowym modelu.

Pytania otwarte są nadal istotne. Anthropic nie stwierdziło, czy bloki zagęszczające zmieniają księgowanie tokenów płatnych. Nie jest również gwarantowana długoterminowa stabilność nagłówka beta. A ponieważ edycja kontekstowa początkowo koncentruje się na wywołaniach i wynikach starszych narzędzi, programiści będą musieli sprawdzić, jak dobrze ustawienia domyślne pasują do przepływów pracy, w których dowody starego narzędzia pozostają ważne z prawnego lub operacyjnego punktu widzenia.

Jednak szerszy kierunek jest jasny. Zarządzanie długim kontekstem odchodzi od kodu klejącego aplikacji do interfejsów API dostawców. Bramy, które chcą niezawodnie łączyć klientów i dostawców modeli, muszą teraz wspierać ten ruch na poziomie protokołu, a nie tylko przesyłać krótsze komunikaty.