Anthropic ir pievienojis divas cieši saistītas beta funkcijas Claude Messages API: sarunu sablīvēšana pēc pieprasījuma un konteksta rediģēšana. Both are aimed at a familiar problem for developers building assistants and agents: useful conversations often run longer than a model's practical context budget, especially when tool calls, retrieved documents and multi-turn instructions accumulate.
The important change is that Anthropic is not only telling developers to summarize old messages themselves. Tās 14. septembra platformas izlaiduma piezīmēs ir aprakstīts API līmeņa blīvēšanas ceļš, kas iespējots, izmantojot compact-2026-09-04 beta galveni, kas atgriež parakstītu blīvēšanas bloku. Šis bloks var aizstāt iepriekšējo sarunu vēsturi vēlākā pieprasījumā, kamēr nesenie pagriezieni paliek neskarti. Anthropic arī ieviesa konteksta rediģēšanu beta versijā, kas sākotnēji bija vērsta uz vecāku rīku rezultātu un rīku izsaukumu automātisku notīrīšanu, kad saruna tuvojas pilnvaru ierobežojumiem.
Lietojumprogrammu komandām šī ir lietojamības funkcija. Vārtejas operatoriem, novērojamības piegādātājiem un uzņēmumiem, kas normalizē datplūsmu starp pakalpojumu sniedzējiem, tā ir protokola maiņa. Saspiesta Kloda saruna vairs nav tikai īsāka uzvedne. Tajā ir ietverts nodrošinātāja izveidots, parakstīts iepriekšējā konteksta attēlojums, kas ir jāsaglabā kā tāds.
Kas mainījās Kloda ziņojumu API
Parastā ilgstošā tērzēšanas integrācijā izstrādātājiem parasti ir trīs nepilnīgas opcijas, kad konteksta logs aizpildās. Viņi var atmest vecos pagriezienus, izveidot savu kopsavilkumu vai lūgt lietotājam restartēt. Katra izvēle var sabojāt nepārtrauktību, paslēpt svarīgus norādījumus vai apgrūtināt atkļūdošanu.
Anthropic jaunā blīvēšanas beta versija pārvieto daļu no šī darba API. API var izveidot parakstītu sablīvēšanas bloku agrākam sarunas saturam. Pēc tam vēlāks pieprasījums var nosūtīt šo bloku vecāku ziņojumu vietā, vienlaikus saglabājot jaunāku sarunu. Dizainam ir nozīme, jo tas atšķir saspiestu vēsturi no parastā palīga autora kopsavilkuma teksta. A gateway that flattens the block into a string, strips unknown fields, or treats it as a normal user message may break the intended semantics.
Context editing attacks a related source of token growth: tool traffic. Aģentu lietojumprogrammas var uzkrāt lielus rīku rezultātus, starpizsaukumus un novecojušus novērojumus. Anthropic saka, ka beta versija sākotnēji atbalsta vecāku rīku rezultātu automātisku notīrīšanu un zvanus, kad saruna tuvojas marķiera ierobežojumiem. That makes sense for many workflows, but it also means a later model response may depend on a conversation state that has been deliberately pruned by provider-side rules.
This is especially relevant for teams building an AI governance layer above multiple model providers. The governance system needs to know not only what prompt was sent, but also which parts of the earlier context were retained, compacted or removed.
Why gateways cannot treat this as generic summarization
The immediate implementation risk is compatibility. Daudzas API vārtejas un SDK ietvari pārbauda pieprasījumu lietderīgās slodzes atbilstoši zināmajām shēmām. Unknown top-level parameters may be dropped. Unknown content blocks may be coerced into text. Mežizstrādes cauruļvadi var rediģēt vai pārveidot laukus, kurus tie neatpazīst. Those are reasonable defaults for ordinary metadata, but they are dangerous when the unknown object is part of the model provider's context-management contract.
A Claude-aware gateway should preserve the new compaction parameter and signed blocks without rewriting them. Tam arī skaidri jānošķir oriģinālie ziņojumi, sablīvēts konteksts un nesenie nemodificētie pagriezieni. That distinction is not academic. When a customer asks why an agent made a decision, the audit trail should show whether the model had access to the original tool result, a compacted representation, or neither.
OpenAI-compatible gateway products face an additional design problem. The OpenAI-style chat and responses ecosystem has its own context-management patterns, including hosted agent state and provider-specific session handling. Anthropic parakstītais blīvēšanas bloks ir atšķirīgs semantisks objekts. A single generic field called "summary" or "memory" will not be enough if the system needs to preserve provider guarantees and replay behavior.
Model Gate-style platforms that support both OpenAI-compatible routing and Anthropic-style APIs may therefore need provider-specific context adapters. Tas nenozīmē, ka katrs klients redz sarežģītību.Tas nozīmē, ka vārtejai ir jānodrošina stabila ārējā pieredze, vienlaikus saglabājot neskartu Anthropic sablīvēšanas semantiku iekšēji.
Analītika, norēķini un audita pēdas kļūst sarežģītākas
Izlaiduma piezīmēs nav norādīts, vai par parakstītiem sablīvēšanas blokiem rēķini tiek iekasēti atšķirīgi no parastā ziņojuma teksta. Šim neatrisinātajam punktam ir nozīme. Ja sablīvētais bloks tiek skaitīts tāpat kā jebkura cita ievade, norēķinu sistēmas to var uzskatīt par citu marķierus saturošu pieprasījuma komponentu. Ja Anthropic izmanto atšķirīgu uzskaiti, vārtejām būs skaidri jāatspoguļo šī atšķirība klientu rēķinos un lietojuma eksportā.
Pat bez īpašas cenas, blīvēšana maina analītikas skaidrojumu. Saruna var šķist īsāka ziņojuma līmenī, vienlaikus saglabājot daudz ilgākas iepriekšējās apmaiņas efektu. Pamata marķieru diagrammas neatbildēs uz tādiem jautājumiem kā: cik daudz sākotnējā konteksta tika saspiests, cik daudz nesenā konteksta bija burtiski, cik bieži tika izsaukta sablīvēšanās un vai kļūmes korelē ar automātiski notīrītām rīka izvadēm.
Ir arī atbilstības leņķis. Ja regulētais klients jautā, kāda informācija bija pieejama palīgam noteiktā laikā, operators nevar atbildēt tikai no gala pieprasījuma struktūras, ja vien tas nesaprot blīvēšanas ķēdi. Parakstītie bloki var palīdzēt saglabāt integritāti, taču tie neatceļ nepieciešamību pēc rūpīgiem saglabāšanas noteikumiem, klientiem redzamām trasēm un iekšējiem atkļūdošanas rīkiem.
Kam rīkoties tūlīt
Izstrādātājiem, kuri izmanto tieši Claude, ir jāpārskata, vai viņu SDK, starpniekserveris vai reģistrēšanas starpprogrammatūra nodod beta galvenes, augstākā līmeņa blīvēšanas bloka parametru un atgriezto blīvēšanas bloku. Viņiem arī jāpārbauda kļūmju darbība, kad blīvēšanas bloki tiek atkārtoti atskaņoti izvietošanā, reģionos vai pieprasītas transformācijas.
Vārtejas komandām ir jāpievieno shēmas pārklājums, pirms klienti saskaras ar klusu degradāciju. Minimālais praktiskais darbs ir pārtraukt jauno lauku nomešanu vai pārrakstīšanu. Labākā versija ir saspiestā konteksta marķēšana atsevišķi žurnālos, izsekošanas un lietošanas ierakstos. Komandām, kas jau nodrošina vienoto AI API norēķinus, sablīvēšanas notikumiem jābūt pietiekami redzamiem, lai atbalsta komandas varētu saskaņot marķiera lietojumu un izskaidrot ilgstošas sesijas darbību.
Uzņēmumiem, kuros darbojas atbalsta aģenti, kodēšanas palīgi, izpētes rīki vai pārdošanas rīki, šī funkcija ir jāuztver kā pārvaldīšanas sekas. Sablīvēšana var padarīt ilgstošas sarunas noturīgākas, taču tā arī ievieš vēl vienu slēptu slāni starp redzamo tērzēšanas atšifrējumu un modeļa faktisko ievades stāvokli.
Atvērtie jautājumi joprojām ir būtiski. Anthropic nav teicis, vai blīvēšanas bloki maina rēķina marķiera uzskaiti. Arī beta galvenes ilgtermiņa stabilitāte netiek garantēta. Tā kā konteksta rediģēšana sākotnēji koncentrējas uz vecākiem rīku izsaukumiem un rezultātiem, izstrādātājiem būs jāpārbauda, cik labi noklusējuma iestatījumi atbilst darbplūsmām, kurās vecie rīka pierādījumi joprojām ir juridiski vai funkcionāli svarīgi.
Tomēr plašāks virziens ir skaidrs. Ilgstoša konteksta pārvaldība pāriet no lietojumprogrammu līmes koda uz pakalpojumu sniedzēja API. Vārtejas, kas vēlas uzticami atrasties starp klientiem un modeļu nodrošinātājiem, tagad ir jāatbalsta šī kustība protokola līmenī, nevis tikai pārsūtot īsākas uzvednes.