Az AWS finomszemcsés hozzáférés-vezérlést adott az Amazon Bedrock AgentCore Memory-hoz, így a fejlesztők felügyelt módot biztosítanak az ügynökmemória felhasználó vagy bérlő általi elkülönítésére az AgentCore Gateway segítségével. Az augusztus 28-i kiadás az ügynök tervezésének egy érzékeny részét helyezi át az infrastrukturális szabályzatba: ki olvashatja, írhatja, kérheti le vagy módosíthatja az AI-ügynök által a munkamenetek során használt memóriát.
A funkció az AWS szerint OAuth JWT-hitelesítést és Cedar-házirendeket használ. A felügyelt memóriacsatlakozó 12 memóriaműveletet tesz közzé Cedar-műveletekként, így a csapatok a memóriaműveletek körüli hozzáférési szabályokat fejezhetik ki, ahelyett, hogy csak az alkalmazáskódra hagyatkoznának a rekordok szűrésére minden hívás előtt vagy után.
Ez egy kis engedélyezési frissítésnek tűnhet. Nem az. A perzisztens memória az egyik fő különbség az egyszerű chat-interfész és a régóta működő ügynöktermék között. Ha az ügynökök emlékeznek a felhasználói beállításokra, a fiókkörnyezetre, a projekt előzményeire, a korábbi döntésekre, a támogatási esetekre vagy az üzleti folyamat állapotára, a memória biztonsági határré válik. Az AWS most így kezeli.
Mi változott
Az Amazon Bedrock AgentCore Memory az AWS ügynökinfrastruktúra-csomagjának része. Úgy tervezték, hogy segítse az ügynököket a kontextus tárolásában és lekérésében az interakciók során, ahelyett, hogy minden alkalmazáscsapatot arra kényszerítene, hogy a semmiből építse fel saját memóriarétegét.
Az új hozzáférés-vezérlési képesség lehetővé teszi a készítők számára, hogy az AgentCore Gateway-en keresztül felhasználónként és bérlőnként elkülönítsék. Az AWS szerint a funkció az OAuth JWT hitelesítéssel és a Cedarral működik, amely a többi AWS engedélyezési rendszerben is használatos házirend nyelv. Az AgentCore dokumentációja az AgentCore-ban található házirendet egy Cedar-alapú mechanizmusként írja le az átjáróeszközökhöz való hozzáférés szabályozására.
A gyakorlati váltás az, hogy a memóriaengedélyezés most közelebb kerülhet az átjáró- és eszközréteghez. Ahelyett, hogy egyéni ellenőrzéseket írnának az alkalmazáson belüli minden memóriahívás körül, a csapatok meghatározhatnak házirendeket, amelyek szabályozzák, hogy melyik hívó melyik memóriaműveletet hajthatja végre az adott névtérben vagy bérlői kontextusban.
A több-bérlős szoftverek esetében ez jelentős felépítési változást jelent. Egy ügyvédi iroda, ügynökség, támogatási csoport vagy vállalati részleg mesterséges intelligencia-asszisztense több felhasználót is kiszolgálhat ugyanazon ügynöki kódon keresztül. A veszélyes hibaüzemmód nem csak abban rejlik, hogy a modell rossz választ ad. Arról van szó, hogy az egyik bérlő memóriája egy másik bérlő munkamenetébe kerül lekérésre, vagy az ügynök érzékeny állapotot ír rossz hatókörbe. A finomszemcsés házirend-érvényesítés célja ennek a hibaosztálynak a csökkentése.
Miért számít most a memória elkülönítése?
Az ügynökmemória új perzisztencia-problémát okoz az AI-platformok számára. A felszólító naplók, a visszakeresett dokumentumok, az eszközkimenetek, a felhasználói beállítások és a munkafolyamat állapota mind a jövőbeli gondolkodás részévé válhatnak. Ez hasznossá teszi a memóriát, de megnehezíti az adathatárok megállapítását is.
A hagyományos API-engedélyezés általában egy kérésre összpontosít: hozzáférhet-e ez a hívó jelenleg ehhez az erőforráshoz? Az ügynökmemória időn át kiterjeszti a kérdést. Egy munkamenet során tárolt rekord hetekkel később lekérhető egy másik eszközhívással, egy másik modellel vagy az ügynök másik verziójával. Ha a platform nem viszi át az identitást és az engedélyezési kontextust ezekbe a memóriaműveletekbe, a memóriaréteg csendes forrásává válhat a felhasználók közötti szivárgásnak.
Az AWS Cedar használata azért is jelentős, mert az ügynökrendszerek irányelv-infrastruktúrája felé mutat. Az ügynökkészítőknek egyre nagyobb szükségük van olyan vezérlőkre, amelyek lefedik az eszközöket, a memóriát, a végrehajtási környezeteket, az API-kulcsokat és az auditnaplókat. Ha ezeket a vezérlőket egy átjárórétegbe helyezi, akkor a platformcsapatok következetesen érvényesíthetik az irányelveket, még akkor is, ha az alkalmazáscsapatok különböző modellekkel vagy ügynöki keretrendszerekkel kísérleteznek.
Ez közvetlenül kapcsolódik az AI API-átjárók tervezéséhez. Egy átjáró, amely csak a promptokat irányítja a modellekhez, már nem elég komoly ügynök-telepítésekhez. A vezérlősíknak meg kell értenie az azonosságokat, a bérlőket, az eszközöket, a memória hatókörét, a sebességkorlátokat és az ellenőrzési nyomvonalakat. A Model Gate és a hasonló platformok ugyanazzal az útiránysal néznek szembe: az egységes hozzáférés csak akkor hasznos, ha érvényesíthető határokkal rendelkezik.
Kiket érint
A közvetlen közönség az AWS-ügyfelek, akik a Bedrock AgentCore-on ügynököket építenek, különösen a SaaS-termékeken dolgozó csapatok, belső vállalati asszisztensek, ügyfél-támogatási partnerek, kutatási ügynökök és munkatársak. Minden olyan terméknek, amely több szervezetet vagy csapatot szolgál ki megosztott infrastruktúrából, ugyanarra a kérdésre kell válaszolnia: honnan tudja az ügynök, hogy melyik memóriát használhatja?
A fejlesztők előnyt jelenthetnek, mert a felügyelt házirend-ellenőrzésekre hagyatkozhatnak ahelyett, hogy az engedélyezési logikát szétszórják az alkalmazáskódon keresztül. Ez nem szünteti meg a gondos tervezés szükségességét, de csökkentheti azoknak a helyeknek a számát, ahol egy hiba téves adatokat fedhet fel.
A biztonsági és platformcsapatok is érintettek.Az ügynökmemóriát most át kell tekinteni, például egy adatbázist, egy dokumentumindexet vagy egy titkos tárolót. A hozzáférési modellnek egyértelműnek kell lennie. Az ellenőrzési nyomvonalnak meg kell mutatnia, hogy melyik identitás melyik memóriaművelethez férhetett hozzá. A bérlői elkülönítést közvetlenül kell tesztelni, nem pedig az alkalmazások útválasztásából következtetni.
Az ügynökrendszereket vásárló vagy építő vállalkozások esetében a kiadás felveti a szállítói kérdések alapját. Már nem elég megkérdezni, hogy van-e egy asszisztens memóriája. A vásárlóknak meg kell kérdezniük, hogyan történik a memória particionálása, hogy a modellen kívül érvényesül-e az engedélyezés, hogyan frissülnek a házirendek, és hogyan jelenik meg a memória-hozzáférés a naplókban.
Gyakorlati következmények az építők számára
A legnyilvánvalóbb következmény az építészeti. A hosszú élettartamú ügynököket építő csapatoknak el kell különíteniük a modellképesség-útválasztást a végrehajtási és a memóriaengedélyektől. Egy hatékony modellnek megengedhető, hogy egy feladaton gondolkodjon, de ez nem jelenti azt, hogy minden eszközhívásnak vagy memóriakeresésnek széles hozzáférést kell örökölnie.
Másodszor, az átjáróknak és az ügynökplatformoknak első osztályú eseményként kell kezelniük a memóriaműveleteket. Az olvasásnak, írásnak, keresésnek, törlésnek és frissítésnek különböző kockázati profilja van. A használati elemzésnek nem szabad megállnia a token-számlálásnál. Az ügynöki munkaterhelések esetén az elemzéseknek egyre inkább meg kell mutatniuk az eszközhasználatot, a memória-hozzáférést, a bérlői hatókört, a felhasználói identitást és a házirendek eredményeit.
Harmadszor, a több bérlős termékeknek kerülniük kell az azonnali utasításokra hagyatkozást az adatok szétválasztása érdekében. A modellnek meg lehet mondani, hogy ne kérje le egy másik ügyfél kontextusát, de a modell alatt tartós izolációt kell érvényesíteni. Ez azt jelenti, hogy hatókörbe tartozó hitelesítő adatok, átjáróházirend, névtér-tervezés és tesztek bizonyítják, hogy a bérlőközi hozzáférés sikertelen.
Végül a partnerek és a viszonteladói platformok figyeljenek oda. Ha egy AI API ügynökségeknek vagy egy Partner API automatizálási réteg lehetővé teszi a későbbi ügyfelek számára, hogy ügynököket építsenek, a memóriakezelés a termékszerződés részévé válik. A platformnak elegendő rugalmasságot kell biztosítania a partnereknek ahhoz, hogy hasznos automatizálásokat hozzanak létre anélkül, hogy láthatatlan adatmegosztási útvonalakat hozhatnának létre az ügyfelek között.
Ami továbbra is bizonytalan
Az AWS leírta a vezérlési modellt és az OAuth JWT-k, a Cedar-házirendek, az AgentCore Gateway és a felügyelt memóriaműveletek használatát. A nyilvános bejelentésből kevésbé egyértelmű, hogy a csapatok hogyan alakítják ki ezeket a házirendeket az összetett éles üzembe helyezéseknél, mennyire lesz egyszerű a házirendek hibakeresése, és hogy az ügyfelek alapértelmezés szerint mennyi működési részletet kapnak a naplókban.
A tágabb irány azonban egyértelmű. Az ügynökmemória infrastruktúrává válik. Ebben az esetben az engedélyezésnek, a megfigyelhetőségnek és a számlázásnak követnie kell az átjáróréteget. A megbízható ügynöki platformokat építő cégek azok, amelyek egy helyen láthatóvá és irányíthatóvá teszik a modellelérést, az eszközengedélyeket és a memória állapotát.