Το AWS μετακινεί τα στοιχεία ελέγχου μνήμης agent στο επίπεδο πύλης

Το AWS έχει προσθέσει λεπτομερή έλεγχο πρόσβασης στη μνήμη Amazon Bedrock AgentCore Memory, δίνοντας στους προγραμματιστές έναν διαχειριζόμενο τρόπο να απομονώνουν τη μνήμη agent από χρήστη ή μισθωτή μέσω της πύλης AgentCore. Η κυκλοφορία της 28ης Αυγούστου μεταφέρει ένα ευαίσθητο μέρος του σχεδιασμού του πράκτορα στην πολιτική υποδομής: ποιος μπορεί να διαβάσει, να γράψει, να ανακτήσει ή να τροποποιήσει τη μνήμη που χρησιμοποιεί ένας παράγοντας τεχνητής νοημοσύνης σε περιόδους σύνδεσης.

Η δυνατότητα χρησιμοποιεί πολιτικές ελέγχου ταυτότητας OAuth JWT και Cedar, σύμφωνα με το AWS. Μια σύνδεση διαχειριζόμενης μνήμης εκθέτει 12 λειτουργίες μνήμης ως ενέργειες Cedar, ώστε οι ομάδες να μπορούν να εκφράσουν κανόνες πρόσβασης γύρω από τις λειτουργίες μνήμης αντί να βασίζονται μόνο στον κώδικα εφαρμογής για να φιλτράρουν τις εγγραφές πριν ή μετά από κάθε κλήση.

Αυτό μπορεί να ακούγεται σαν μια μικρή ενημέρωση εξουσιοδότησης. Δεν είναι. Η επίμονη μνήμη είναι μία από τις κύριες διαφορές μεταξύ μιας απλής διεπαφής συνομιλίας και ενός προϊόντος μακροπρόθεσμου αντιπροσώπου. Μόλις οι πράκτορες θυμηθούν τις προτιμήσεις των χρηστών, το πλαίσιο λογαριασμού, το ιστορικό του έργου, τις προηγούμενες αποφάσεις, τις περιπτώσεις υποστήριξης ή την κατάσταση της επιχειρηματικής διαδικασίας, η μνήμη γίνεται όριο ασφαλείας. Η AWS το αντιμετωπίζει τώρα με αυτόν τον τρόπο.

Τι άλλαξε

Η μνήμη Amazon Bedrock AgentCore Memory αποτελεί μέρος της στοίβας υποδομής πρακτόρων της AWS. Έχει σχεδιαστεί για να βοηθά τους πράκτορες να αποθηκεύουν και να ανακτούν το περιβάλλον σε όλες τις αλληλεπιδράσεις, αντί να υποχρεώνει κάθε ομάδα εφαρμογής να δημιουργήσει το δικό της επίπεδο μνήμης από την αρχή.

Η νέα δυνατότητα ελέγχου πρόσβασης επιτρέπει στους κατασκευαστές να επιβάλλουν την απομόνωση ανά χρήστη και ανά μισθωτή μέσω της πύλης AgentCore. Η AWS λέει ότι η δυνατότητα λειτουργεί με έλεγχο ταυτότητας OAuth JWT και Cedar, τη γλώσσα πολιτικής που χρησιμοποιείται επίσης σε άλλα συστήματα εξουσιοδότησης AWS. Η τεκμηρίωση του AgentCore περιγράφει την Πολιτική στο AgentCore ως έναν μηχανισμό που βασίζεται σε Cedar για τον έλεγχο της πρόσβασης στα εργαλεία πύλης.

Η πρακτική αλλαγή είναι ότι η εξουσιοδότηση μνήμης μπορεί πλέον να βρίσκεται πιο κοντά στην πύλη και το επίπεδο εργαλείου. Αντί να γράφουν προσαρμοσμένους ελέγχους γύρω από κάθε κλήση μνήμης μέσα στην εφαρμογή, οι ομάδες μπορούν να ορίσουν πολιτικές που διέπουν ποιος καλών μπορεί να εκτελέσει ποια ενέργεια μνήμης σε ποιο χώρο ονομάτων ή περιβάλλον μισθωτή.

Για λογισμικό πολλαπλών ενοικιαστών, αυτή είναι μια σημαντική αρχιτεκτονική αλλαγή. Ένας βοηθός τεχνητής νοημοσύνης για μια δικηγορική εταιρεία, πρακτορείο, ομάδα υποστήριξης ή τμήμα επιχειρήσεων μπορεί να εξυπηρετεί πολλούς χρήστες μέσω του ίδιου κωδικού αντιπροσώπου. Η επικίνδυνη λειτουργία αποτυχίας δεν είναι μόνο ότι το μοντέλο δίνει κακή απάντηση. Είναι ότι η μνήμη ενός ενοικιαστή ανακτάται στη συνεδρία ενός άλλου μισθωτή ή ότι ένας πράκτορας εγγράφει την ευαίσθητη κατάσταση σε λάθος πεδίο. Η αυστηρή επιβολή πολιτικής στοχεύει στη μείωση αυτής της κατηγορίας σφαλμάτων.

Γιατί η απομόνωση μνήμης έχει πλέον σημασία

Η μνήμη παράγοντα δημιουργεί ένα νέο πρόβλημα επιμονής για τις πλατφόρμες τεχνητής νοημοσύνης. Τα αρχεία καταγραφής προτροπής, τα ανακτημένα έγγραφα, οι έξοδοι εργαλείων, οι προτιμήσεις χρήστη και η κατάσταση ροής εργασιών μπορούν όλα να γίνουν μέρος της μελλοντικής συλλογιστικής. Αυτό καθιστά τη μνήμη χρήσιμη, αλλά καθιστά επίσης πιο δύσκολο τον συλλογισμό για τα όρια δεδομένων.

Η παραδοσιακή εξουσιοδότηση API συνήθως εστιάζει σε ένα αίτημα: μπορεί αυτός ο καλών να έχει πρόσβαση σε αυτόν τον πόρο αυτήν τη στιγμή; Η μνήμη πράκτορα επεκτείνει την ερώτηση σε βάθος χρόνου. Μια εγγραφή που είναι αποθηκευμένη κατά τη διάρκεια μιας περιόδου λειτουργίας μπορεί να ανακτηθεί εβδομάδες αργότερα από μια διαφορετική κλήση εργαλείου, ένα διαφορετικό μοντέλο ή μια διαφορετική έκδοση του πράκτορα. Εάν η πλατφόρμα δεν φέρει το πλαίσιο ταυτότητας και εξουσιοδότησης σε αυτές τις λειτουργίες μνήμης, το επίπεδο μνήμης μπορεί να γίνει μια αθόρυβη πηγή διαρροής μεταξύ χρηστών.

Η χρήση του Cedar από την AWS είναι επίσης σημαντική επειδή δείχνει προς την πολιτική ως υποδομή για συστήματα πρακτόρων. Τα προγράμματα δημιουργίας πρακτόρων χρειάζονται όλο και περισσότερο στοιχεία ελέγχου που καλύπτουν εργαλεία, μνήμη, περιβάλλοντα εκτέλεσης, κλειδιά API και αρχεία καταγραφής ελέγχου. Η τοποθέτηση αυτών των στοιχείων ελέγχου σε ένα επίπεδο πύλης δίνει στις ομάδες πλατφόρμας τη δυνατότητα να επιβάλλουν με συνέπεια την πολιτική, ακόμη και όταν οι ομάδες εφαρμογών πειραματίζονται με διαφορετικά μοντέλα ή πλαίσια πρακτόρων.

Αυτό σχετίζεται άμεσα με το σχεδιασμό πύλης API AI. Μια πύλη που προτρέπει μόνο δρομολογήσεις σε μοντέλα δεν αρκεί πλέον για σοβαρές αναπτύξεις πρακτόρων. Το επίπεδο ελέγχου πρέπει να κατανοήσει τις ταυτότητες, τους μισθωτές, τα εργαλεία, τα πεδία μνήμης, τα όρια ρυθμών και τις διαδρομές ελέγχου. Το Model Gate και παρόμοιες πλατφόρμες αντιμετωπίζουν την ίδια κατεύθυνση ταξιδιού: η ενοποιημένη πρόσβαση είναι χρήσιμη μόνο εάν συνοδεύεται από υποχρεωτικά όρια.

Ποιος επηρεάζεται

Το άμεσο κοινό είναι οι πελάτες της AWS που φτιάχνουν πράκτορες στο Bedrock AgentCore, ειδικά ομάδες που εργάζονται σε προϊόντα SaaS, εσωτερικούς βοηθούς επιχειρήσεων, αυτοματισμούς ροής εργασίας υποστήριξης πελατών και συνεργάτες συνεργατών. Κάθε προϊόν που εξυπηρετεί πολλούς οργανισμούς ή ομάδες από κοινόχρηστη υποδομή πρέπει να απαντήσει στην ίδια ερώτηση: πώς γνωρίζει ο πράκτορας ποια μνήμη επιτρέπεται να χρησιμοποιήσει;

Οι προγραμματιστές μπορεί να επωφεληθούν επειδή μπορούν να βασίζονται σε διαχειριζόμενους ελέγχους πολιτικής αντί να διασκορπίζουν τη λογική εξουσιοδότησης μέσω του κώδικα εφαρμογής. Αυτό δεν καταργεί την ανάγκη για προσεκτικό σχεδιασμό, αλλά μπορεί να μειώσει τον αριθμό των σημείων όπου ένα λάθος μπορεί να αποκαλύψει λάθος δεδομένα.

Επηρεάζονται επίσης οι ομάδες ασφάλειας και πλατφόρμας.Η μνήμη του πράκτορα πρέπει τώρα να ελεγχθεί όπως μια βάση δεδομένων, ένα ευρετήριο εγγράφων ή μια αποθήκευση μυστικών. Το μοντέλο πρόσβασης πρέπει να είναι σαφές. Η διαδρομή ελέγχου θα πρέπει να δείχνει ποια ταυτότητα είχε πρόσβαση σε ποια λειτουργία μνήμης. Η απομόνωση ενοικιαστών θα πρέπει να ελέγχεται άμεσα, όχι να συνάγεται από τη δρομολόγηση εφαρμογών.

Για επιχειρήσεις που αγοράζουν ή κατασκευάζουν συστήματα αντιπροσώπων, η έκδοση δημιουργεί τη βάση για ερωτήσεις προμηθευτών. Δεν αρκεί πλέον να ρωτάτε εάν ένας βοηθός έχει μνήμη. Οι αγοραστές θα πρέπει να ρωτήσουν πώς κατατμείται η μνήμη, εάν η εξουσιοδότηση επιβάλλεται εκτός του μοντέλου, πώς ενημερώνονται οι πολιτικές και πώς εμφανίζεται η πρόσβαση στη μνήμη στα αρχεία καταγραφής.

Πρακτικές συνέπειες για τους κατασκευαστές

Η πιο προφανής συνέπεια είναι η αρχιτεκτονική. Οι ομάδες που δημιουργούν πράκτορες μεγάλης διάρκειας θα πρέπει να διαχωρίζουν τη δρομολόγηση δυνατοτήτων μοντέλου από τα δικαιώματα εκτέλεσης και μνήμης. Μπορεί να επιτρέπεται σε ένα ισχυρό μοντέλο να αιτιολογεί μια εργασία, αλλά αυτό δεν σημαίνει ότι κάθε κλήση εργαλείου ή αναζήτηση μνήμης πρέπει να κληρονομεί ευρεία πρόσβαση.

Δεύτερον, οι πύλες και οι πλατφόρμες πρακτόρων θα πρέπει να αντιμετωπίζουν τις λειτουργίες μνήμης ως συμβάντα πρώτης κατηγορίας. Οι αναγνώσεις, οι εγγραφές, οι αναζητήσεις, οι διαγραφές και οι ενημερώσεις έχουν όλα διαφορετικά προφίλ κινδύνου. Τα αναλυτικά στοιχεία χρήσης δεν πρέπει να σταματούν στις μετρήσεις διακριτικών. Για φόρτους εργασίας αντιπροσώπου, τα αναλυτικά στοιχεία χρειάζεται όλο και περισσότερο να εμφανίζουν τη χρήση εργαλείων, την πρόσβαση στη μνήμη, το εύρος ενοικιαστή, την ταυτότητα χρήστη και τα αποτελέσματα πολιτικής.

Τρίτον, τα προϊόντα πολλαπλών μισθωτών θα πρέπει να αποφεύγουν να βασίζονται σε έγκαιρες οδηγίες για την επιβολή διαχωρισμού δεδομένων. Ένα μοντέλο μπορεί να πει να μην ανακτά το πλαίσιο άλλου πελάτη, αλλά πρέπει να επιβληθεί ανθεκτική απομόνωση κάτω από το μοντέλο. Αυτό σημαίνει διαπιστευτήρια εμβέλειας, πολιτική πύλης, σχεδιασμός χώρου ονομάτων και δοκιμές που αποδεικνύουν ότι η πρόσβαση μεταξύ μισθωτών αποτυγχάνει.

Τέλος, οι πλατφόρμες συνεργατών και μεταπωλητών θα πρέπει να δώσουν προσοχή. Εάν ένα API AI για εταιρείες ή ένα επίπεδο αυτοματισμού Partner API επιτρέπει στους μεταγενέστερους πελάτες να δημιουργήσουν πράκτορες, η διαχείριση της μνήμης γίνεται μέρος της σύμβασης προϊόντος. Η πλατφόρμα πρέπει να παρέχει στους συνεργάτες αρκετή ευελιξία για τη δημιουργία χρήσιμων αυτοματισμών χωρίς να τους επιτρέπει να δημιουργούν αόρατες διαδρομές κοινής χρήσης δεδομένων μεταξύ των πελατών.

Αυτό που παραμένει αβέβαιο

AWS έχει περιγράψει το μοντέλο ελέγχου και τη χρήση του OAuth JWT, των πολιτικών Cedar, του AgentCore Gateway και των λειτουργιών διαχειριζόμενης μνήμης. Αυτό που παραμένει λιγότερο σαφές από τη δημόσια ανακοίνωση είναι ο τρόπος με τον οποίο οι ομάδες θα σχεδιάσουν αυτές τις πολιτικές σε σύνθετες αναπτύξεις παραγωγής, πόσο εύκολος θα είναι ο εντοπισμός σφαλμάτων πολιτικών και πόσες λειτουργικές λεπτομέρειες θα λαμβάνουν οι πελάτες στα αρχεία καταγραφής από προεπιλογή.

Η ευρύτερη κατεύθυνση, ωστόσο, είναι σαφής. Η μνήμη πράκτορα γίνεται υποδομή. Καθώς συμβαίνει αυτό, η εξουσιοδότηση, η παρατηρησιμότητα και η χρέωση πρέπει να τις ακολουθούν στο επίπεδο πύλης. Οι εταιρείες που κατασκευάζουν αξιόπιστες πλατφόρμες αντιπροσώπων θα είναι αυτές που μπορούν να κάνουν την πρόσβαση μοντέλου, τα δικαιώματα εργαλείων και την κατάσταση μνήμης ορατές και διαχειρίσιμες σε ένα μέρος.