AWS, Amazon Bedrock AgentCore Memory'e ayrıntılı erişim kontrolü ekleyerek geliştiricilere AgentCore Gateway aracılığıyla ajan belleğini kullanıcıya veya kiracıya göre yalıtmanın yönetilen bir yolunu sunuyor. 28 Ağustos sürümü, aracı tasarımının hassas bir bölümünü altyapı politikasına taşıyor: AI aracısının oturumlar arasında kullandığı belleği kim okuyabilir, yazabilir, alabilir veya değiştirebilir.
AWS'ye göre bu özellik, OAuth JWT kimlik doğrulamasını ve Cedar politikalarını kullanıyor. Yönetilen bir Bellek bağlayıcısı, 12 Bellek işlemini Cedar eylemleri olarak kullanıma sunar; böylece ekipler, her aramadan önce veya sonra kayıtları filtrelemek için yalnızca uygulama koduna güvenmek yerine bellek işlemleriyle ilgili erişim kurallarını ifade edebilir.
Bu küçük bir yetkilendirme güncellemesi gibi görünebilir. Değil. Kalıcı bellek, basit bir sohbet arayüzü ile uzun süre çalışan bir aracı ürünü arasındaki temel farklardan biridir. Aracılar kullanıcı tercihlerini, hesap içeriğini, proje geçmişini, önceki kararları, destek vakalarını veya iş süreci durumunu hatırladığında bellek bir güvenlik sınırı haline gelir. AWS artık bu duruma bu şekilde yaklaşıyor.
Ne değişti?
Amazon Bedrock AgentCore Memory, AWS'nin aracı altyapı yığınının bir parçasıdır. Her uygulama ekibini sıfırdan kendi bellek katmanını oluşturmaya zorlamak yerine, aracıların etkileşimler boyunca bağlamı depolamasına ve almasına yardımcı olmak için tasarlanmıştır.
Yeni erişim kontrolü özelliği, inşaatçıların AgentCore Ağ Geçidi aracılığıyla kullanıcı başına ve kiracı başına izolasyonu zorunlu kılmasına olanak tanır. AWS, bu özelliğin OAuth JWT kimlik doğrulaması ve diğer AWS yetkilendirme sistemlerinde de kullanılan politika dili olan Cedar ile çalıştığını söylüyor. AgentCore belgeleri, AgentCore'daki Politikayı, ağ geçidi araçlarına erişimi kontrol etmeye yönelik Cedar tabanlı bir mekanizma olarak tanımlamaktadır.
Pratik değişiklik, bellek yetkilendirmesinin artık ağ geçidine ve araç katmanına daha yakın olabilmesidir. Ekipler, uygulama içindeki her bellek çağrısına özel denetimler yazmak yerine, hangi arayanın hangi ad alanında veya kiracı bağlamında hangi bellek eylemini gerçekleştirebileceğini yöneten politikalar tanımlayabilir.
Çok kiracılı yazılım için bu anlamlı bir mimari değişikliktir. Bir hukuk firması, ajans, destek ekibi veya kurumsal departman için bir yapay zeka asistanı, aynı temsilci kodu aracılığıyla birçok kullanıcıya hizmet verebilir. Tehlikeli başarısızlık modu yalnızca modelin kötü yanıt vermesi değildir. Bu, bir kiracının hafızasının başka bir kiracının oturumuna alınması veya bir aracının hassas durumu yanlış kapsama yazmasıdır. Ayrıntılı politika uygulaması, bu hata sınıfını azaltmayı amaçlamaktadır.
Bellek yalıtımı artık neden önemli?
Ajan belleği, yapay zeka platformları için yeni bir kalıcılık sorunu yaratıyor. İstem günlükleri, alınan belgeler, araç çıktıları, kullanıcı tercihleri ve iş akışı durumunun tümü gelecekteki akıl yürütmenin bir parçası haline gelebilir. Bu, belleği kullanışlı hale getirir ancak aynı zamanda veri sınırları hakkında akıl yürütmeyi de zorlaştırır.
Geleneksel API yetkilendirmesi genellikle bir isteğe odaklanır: Bu arayan bu kaynağa şu anda erişebilir mi? Aracı hafızası soruyu zamana yayar. Bir oturum sırasında saklanan bir kayıt, haftalar sonra farklı bir araç çağrısı, farklı bir model veya aracının farklı bir sürümü tarafından alınabilir. Platform bu bellek operasyonlarına kimlik ve yetkilendirme bağlamı taşımazsa, bellek katmanı kullanıcılar arası sızıntının sessiz bir kaynağı haline gelebilir.
AWS'nin Cedar'ı kullanması da önemlidir çünkü bu, aracı sistemler için altyapı olarak politikaya işaret eder. Aracı oluşturucuların araçları, belleği, yürütme ortamlarını, API anahtarlarını ve denetim günlüklerini kapsayan kontrollere giderek daha fazla ihtiyacı var. Bu kontrollerin bir ağ geçidi katmanına yerleştirilmesi, uygulama ekipleri farklı modeller veya aracı çerçeveleriyle denemeler yapsa bile platform ekiplerine politikayı tutarlı bir şekilde uygulayabilecekleri bir yer sağlar.
Bu, AI API ağ geçidi tasarımıyla doğrudan ilgilidir. Yalnızca istemleri modellere yönlendiren bir ağ geçidi, ciddi aracı dağıtımları için artık yeterli değildir. Kontrol düzleminin kimlikleri, kiracıları, araçları, bellek kapsamlarını, hız sınırlarını ve denetim yollarını anlaması gerekir. Model Gate ve benzer platformlar aynı gidiş yönüne bakar: birleşik erişim yalnızca uygulanabilir sınırlara sahip olması durumunda faydalıdır.
Kim etkilenir?
Yakın hedef kitle, Bedrock AgentCore üzerinde çalışan AWS müşterilerinin aracıları, özellikle de SaaS ürünleri, dahili kurumsal asistanlar, müşteri destek otomasyonu, araştırma temsilcileri ve iş ortaklarına yönelik iş akışları üzerinde çalışan ekiplerdir. Paylaşılan altyapıdan birden fazla kuruluşa veya ekibe hizmet veren herhangi bir ürünün aynı soruyu yanıtlaması gerekir: Aracı, hangi belleği kullanmasına izin verildiğini nasıl biliyor?
Geliştiriciler, uygulama kodu yoluyla yetkilendirme mantığını dağıtmak yerine yönetilen politika kontrollerine güvenebilecekleri için fayda sağlayabilir. Bu, dikkatli tasarım ihtiyacını ortadan kaldırmaz ancak bir hatanın yanlış verileri açığa çıkarabileceği yerlerin sayısını azaltabilir.
Güvenlik ve platform ekipleri de etkilenmektedir.Ajan hafızasının artık bir veritabanı, belge dizini veya sır deposu gibi gözden geçirilmesi gerekiyor. Erişim modeli açık olmalıdır. Denetim izi hangi kimliğin hangi bellek işlemine eriştiğini göstermelidir. Kiracı izolasyonu, uygulama yönlendirmesinden değil, doğrudan test edilmelidir.
Acente sistemleri satın alan veya inşa eden işletmeler için sürüm, satıcı sorularına yönelik temel çizgiyi yükseltir. Artık bir asistanın hafızası olup olmadığını sormak yeterli değil. Alıcılar belleğin nasıl bölümlendiğini, yetkilendirmenin model dışında uygulanıp uygulanmadığını, politikaların nasıl güncellendiğini ve bellek erişiminin günlüklerde nasıl göründüğünü sormalıdır.
İnşaatçılar için pratik sonuçlar
En belirgin sonuç mimaridir. Uzun ömürlü aracılar oluşturan ekipler, model yeteneği yönlendirmeyi yürütme ve bellek izinlerinden ayırmalıdır. Güçlü bir modelin bir görev üzerinde akıl yürütmesine izin verilebilir ancak bu, her araç çağrısının veya bellek aramasının geniş erişimi devralması gerektiği anlamına gelmez.
İkincisi, ağ geçitleri ve aracı platformları bellek işlemlerini birinci sınıf olaylar olarak ele almalıdır. Okuma, yazma, arama, silme ve güncellemelerin hepsinin farklı risk profilleri vardır. Kullanım analitiği jeton sayımlarıyla sınırlı kalmamalıdır. Aracı iş yükleri için analizlerin giderek artan bir şekilde araç kullanımını, bellek erişimini, kiracı kapsamını, kullanıcı kimliğini ve politika sonuçlarını göstermesi gerekiyor.
Üçüncü olarak, çok kiracılı ürünler, veri ayırmayı zorunlu kılmak için hızlı talimatlara güvenmekten kaçınmalıdır. Bir modele başka bir müşterinin bağlamını almaması söylenebilir ancak modelin altında kalıcı izolasyonun uygulanması gerekir. Bu, kapsamlı kimlik bilgileri, ağ geçidi politikası, ad alanı tasarımı ve kiracılar arası erişimin başarısız olduğunu kanıtlayan testler anlamına gelir.
Son olarak iş ortağı ve bayi platformlarının dikkat etmesi gerekir. Ajanslar için bir AI API'si veya Partner API otomasyon katmanı, alt müşterilerin aracı oluşturmasına izin veriyorsa bellek yönetişimi ürün sözleşmesinin bir parçası haline gelir. Platformun iş ortaklarına, istemciler arasında görünmez veri paylaşım yolları oluşturmalarına izin vermeden kullanışlı otomasyonlar oluşturabilmeleri için yeterli esneklik sağlaması gerekiyor.
Belirsiz kalan şey
AWS, kontrol modelini ve onun OAuth JWT'leri, Cedar ilkelerini, AgentCore Gateway'i ve yönetilen Bellek işlemlerini kullanımını açıkladı. Kamuya yapılan duyuruda daha az açık olan şey ise ekiplerin karmaşık üretim dağıtımlarında bu politikaları nasıl tasarlayacağı, politikada hata ayıklamanın ne kadar kolay olacağı ve müşterilerin varsayılan olarak günlüklere ne kadar operasyonel ayrıntı alacağıdır.
Ancak daha geniş yön açıktır. Ajan hafızası altyapı haline geliyor. Bu gerçekleştiğinde, yetkilendirme, gözlemlenebilirlik ve faturalandırmanın ağ geçidi katmanına kadar bunu takip etmesi gerekir. Güvenilir aracı platformları oluşturan şirketler, model erişimini, araç izinlerini ve bellek durumunu tek bir yerden görünür ve yönetilebilir hale getirebilen şirketler olacak.