Anthropic, Claude İleti API'e birbiriyle yakından ilişkili iki beta özelliği ekledi: isteğe bağlı ileti dizisini sıkıştırma ve içerik düzenleme. Her ikisi de geliştiricilerin asistan ve aracı oluşturma konusunda tanıdık bir sorunu hedef alıyor: Yararlı konuşmalar genellikle bir modelin pratik bağlam bütçesinden daha uzun sürer, özellikle de araç çağrıları, alınan belgeler ve çok yönlü talimatlar biriktiğinde.
Önemli değişiklik Anthropic'nin geliştiricilere yalnızca eski mesajları kendilerinin özetlemelerini söylememesidir. 14 Eylül platform sürüm notları, compact-2026-09-04 beta başlığı aracılığıyla etkinleştirilen ve imzalı bir sıkıştırma bloğu döndüren API düzeyindeki bir sıkıştırma yolunu açıklamaktadır. Bu blok, daha sonraki bir istekte önceki konuşma geçmişinin yerini alabilir ve son dönüşler bozulmadan kalır. Anthropic aynı zamanda beta sürümde bağlam düzenlemeyi de tanıttı; başlangıçta eski araç sonuçlarını ve konuşma belirteç sınırlarına yaklaştığında araç çağrılarını otomatik olarak temizlemeye odaklandı.
Uygulama ekipleri için bu bir kullanılabilirlik özelliğidir. Ağ geçidi operatörleri, gözlemlenebilirlik sağlayıcıları ve sağlayıcılar arasındaki trafiği normalleştiren şirketler için bu bir protokol değişikliğidir. Sıkıştırılmış bir Claude konuşması artık yalnızca daha kısa bir istemden ibaret değil. Bu şekilde korunması gereken, önceki bağlamın sağlayıcı tarafından oluşturulmuş, imzalı bir temsilini içerir.
Claude İletilerde neler değişti API
Geleneksel uzun süreli bir sohbet entegrasyonunda, içerik penceresi dolduğunda geliştiricilerin genellikle üç kusurlu seçeneği vardır. Eski dönüşleri bırakabilir, kendi özetlerini oluşturabilir veya kullanıcıdan yeniden başlamasını isteyebilirler. Her seçim sürekliliğe zarar verebilir, önemli talimatları gizleyebilir veya hata ayıklamayı zorlaştırabilir.
Anthropic'nin yeni sıkıştırma beta sürümü, bu çalışmanın bir kısmını API'ye taşır. API, daha önceki konuşma içeriği için imzalı bir sıkıştırma bloğu oluşturabilir. Daha sonraki bir istek daha sonra eski mesajların yerine bu bloğu gönderebilir, bu arada daha yeni konuşmalar aynen korunur. Tasarım önemlidir çünkü sıkıştırılmış tarihi, asistan tarafından yazılan sıradan özet metinden ayırır. Bloğu bir dize halinde düzleştiren, bilinmeyen alanları çıkaran veya normal bir kullanıcı mesajı olarak ele alan bir ağ geçidi, amaçlanan anlambilimi bozabilir.
Bağlam düzenleme, belirteç büyümesinin ilgili bir kaynağına, yani araç trafiğine saldırır. Aracı uygulamalar büyük araç çıktılarını, ara çağrıları ve eski gözlemleri biriktirebilir. Anthropic, betanın başlangıçta eski araç sonuçlarının ve görüşme belirteç sınırlarına yaklaştığında çağrıların otomatik olarak temizlenmesini desteklediğini söylüyor. Bu, birçok iş akışı için mantıklıdır, ancak aynı zamanda daha sonraki bir model yanıtının, sağlayıcı tarafı kuralları tarafından kasıtlı olarak budanmış bir konuşma durumuna bağlı olabileceği anlamına da gelir.
Bu, özellikle birden fazla model sağlayıcının üzerinde bir AI yönetişim katmanı oluşturan ekipler için geçerlidir. Yönetişim sisteminin yalnızca hangi istemin gönderildiğini değil, aynı zamanda önceki bağlamın hangi bölümlerinin saklandığını, sıkıştırıldığını veya kaldırıldığını da bilmesi gerekir.
Ağ geçitleri bunu neden genel özetleme olarak ele alamıyor
Acil uygulama riski uyumluluktur. Birçok API ağ geçidi ve SDK sarmalayıcı, istek yüklerini bilinen şemalara göre doğrular. Bilinmeyen üst düzey parametreler bırakılabilir. Bilinmeyen içerik blokları metne dönüştürülmeye zorlanabilir. Günlüğe kaydetme işlem hatları, tanımadıkları alanları çıkarabilir veya dönüştürebilir. Bunlar sıradan meta veriler için makul varsayılanlardır, ancak bilinmeyen nesne model sağlayıcının bağlam yönetimi sözleşmesinin bir parçası olduğunda tehlikelidirler.
Claude uyumlu bir ağ geçidi, yeni sıkıştırma parametresini ve imzalı blokları yeniden yazmadan korumalıdır. Ayrıca orijinal mesajlar, sıkıştırılmış bağlam ve yakın zamanda değiştirilmemiş dönüşler arasındaki izlerde de net bir ayrım yapmalıdır. Bu ayrım akademik değildir.Bir müşteri, bir aracının neden bir karar verdiğini sorduğunda, denetim izi, modelin orijinal araç sonucuna mı, sıkıştırılmış bir temsile mi yoksa her ikisine de erişiminin olup olmadığını göstermelidir.
OpenAI uyumlu ağ geçidi ürünleri ek bir tasarım sorunuyla karşı karşıyadır. OpenAI tarzı sohbet ve yanıt ekosisteminin, barındırılan aracı durumu ve sağlayıcıya özel oturum yönetimi de dahil olmak üzere kendi bağlam yönetimi kalıpları vardır. Anthropic'ın imzalı sıkıştırma bloğu farklı bir anlamsal nesnedir. Sistemin sağlayıcı garantilerini ve yeniden oynatma davranışını koruması gerekiyorsa, "özet" veya "bellek" adı verilen tek bir genel alan yeterli olmayacaktır. Hem OpenAI uyumlu yönlendirmeyi hem de Anthropic tarzı API'leri destekleyen
Model Gate tarzı platformlar, bu nedenle sağlayıcıya özel bağlam bağdaştırıcılarına ihtiyaç duyabilir. Bu, her müşterinin karmaşıklığı gördüğü anlamına gelmez. Bu, ağ geçidinin Anthropic'in sıkıştırma anlambilimini dahili olarak korurken istikrarlı bir harici deneyim sunması gerektiği anlamına gelir.
Analizler, faturalandırma ve denetim yolları daha karmaşık hale gelir
Sürüm notları, imzalı sıkıştırma bloklarının sıradan mesaj metninden farklı şekilde faturalandırılıp faturalandırılmadığını belirtmez. Bu çözülmemiş nokta önemlidir. Sıkıştırılmış bir blok diğer herhangi bir giriş gibi sayılırsa, faturalandırma sistemleri bunu başka bir jeton içeren istek bileşeni olarak değerlendirebilir. Anthropic farklı bir muhasebe uyguluyorsa, ağ geçitlerinin bu farkı müşteri faturalarında ve kullanım dışa aktarımlarında açıkça temsil etmesi gerekir.
Özel fiyatlandırma olmasa bile sıkıştırma, analizlerin açıklanma şeklini değiştirir. Bir konuşma, mesaj düzeyinde daha kısa görünebilir, ancak yine de çok daha uzun bir önceki alışverişin etkisini taşıyabilir. Temel belirteç grafikleri, orijinal bağlamın ne kadar sıkıştırıldığı, güncel bağlamın ne kadarının kelimesi kelimesine kaldığı, sıkıştırmanın ne sıklıkta başlatıldığı ve hataların otomatik olarak temizlenen araç çıktılarıyla ilişkili olup olmadığı gibi soruları yanıtlamaz.
Bu sorular, ham günlüklere gömülmek yerine AI API kullanım analizi kontrol paneline aittir. Kurumsal müşteriler giderek daha fazla maliyet, model davranışı ve araç kullanımını aynı operasyonel görünümde görmeyi bekliyor. Konuşma sıkıştırması bu görünüme başka bir durum geçişi ekler.
Ayrıca bir uyumluluk açısı da vardır. Düzenlemeye tabi bir müşteri, belirli bir zamanda asistana hangi bilgilerin mevcut olduğunu sorarsa, operatör sıkıştırma zincirini anlamadığı sürece yalnızca nihai talep gövdesinden yanıt veremez. İmzalı bloklar bütünlüğün korunmasına yardımcı olabilir, ancak dikkatli saklama kurallarına, müşterinin görebileceği izlere ve dahili hata ayıklama araçlarına olan ihtiyacı ortadan kaldırmaz.
Şimdi kim harekete geçmeli
Claude kullanan geliştiriciler doğrudan SDK, proxy veya günlük ara yazılımının beta başlıklarını, üst düzey sıkıştırma parametresini geçip sıkıştırma bloklarını değiştirip döndürmediğini incelemelidir. Ayrıca sıkıştırma blokları dağıtımlar, bölgeler veya istek dönüşümleri genelinde yeniden oynatıldığında hata davranışını da test etmelidirler.
Ağ geçidi ekipleri, müşteriler sessiz bozulmayla karşılaşmadan önce şema kapsamı eklemelidir. Asgari pratik çalışma, yeni alanları bırakmayı veya yeniden yazmayı durdurmaktır. Daha iyi versiyon, sıkıştırılmış bağlamı günlüklerde, izlemelerde ve kullanım kayıtlarında ayrı ayrı etiketlemektir. Halihazırda birleşik AI API faturalandırma sağlayan ekipler için, sıkıştırma etkinlikleri, destek ekiplerinin jeton kullanımını uzlaştırabilmesi ve uzun oturum davranışını açıklayabilmesi için yeterince görünür olmalıdır.
Destek temsilcileri, kodlama asistanları, araştırma araçları veya satış yardımcı pilotları çalıştıran işletmeler, bunu yönetişim sonuçlarıyla birlikte bir güvenilirlik özelliği olarak ele almalıdır. Sıkıştırma, uzun konuşmaları daha dayanıklı hale getirebilir ancak aynı zamanda görünür sohbet metni ile modelin gerçek giriş durumu arasına başka bir gizli katman daha ekler.
Açık sorular hâlâ önemli. Anthropic, sıkıştırma bloklarının faturalandırılmış jeton hesaplamasını değiştirip değiştirmediğini söylemedi. Beta başlığının uzun vadeli kararlılığı da garanti edilmez.Bağlam düzenleme başlangıçta eski araç çağrılarına ve sonuçlarına odaklandığından, geliştiricilerin, eski araç kanıtlarının yasal veya operasyonel açıdan önemli kaldığı iş akışlarına varsayılanların ne kadar iyi uyduğunu doğrulaması gerekecektir.
Ancak daha büyük yön açıktır. Uzun bağlam yönetimi, uygulama birleştirme kodundan sağlayıcı API'lerine geçiyor. Müşteriler ve model sağlayıcılar arasında güvenilir bir şekilde yer almak isteyen ağ geçitlerinin artık bu hareketi yalnızca daha kısa istemleri ileterek değil, protokol düzeyinde de desteklemesi gerekiyor.