Η Microsoft αποκάλυψε το MAI-Cyber-1-Flash, ένα μοντέλο τεχνητής νοημοσύνης που εστιάζει στην κυβερνοασφάλεια, ενσωματωμένο στο MDASH, το λουρί πολλαπλών πρακτόρων της εταιρείας για τον εντοπισμό και την αποκατάσταση ευπάθειας. Το λανσάρισμα δεν είναι απλώς ένα άλλο μοντέλο που προστέθηκε σε έναν κατάλογο. Είναι σημάδι ότι η τεχνητή νοημοσύνη ασφαλείας κινείται προς συστήματα, ελέγχους πρόσβασης και δρομολόγηση εργασιών για συγκεκριμένους τομείς, αντί για ένα ενιαίο μοντέλο γενικής χρήσης που χειρίζεται κάθε βήμα της ροής εργασίας.
Σύμφωνα με τη Microsoft, το MAI-Cyber-1-Flash έχει σχεδιαστεί για να εκτελεί έως και το 90% των εργασιών MDASH, ενώ τα μεγαλύτερα μοντέλα προορίζονται για εξαιρετικά δύσκολες περιπτώσεις. Η πρόσβαση περιορίζεται σε επαληθευμένους υπερασπιστές μέσω MDASH. Η Axios ανέφερε ότι η δημόσια προεπισκόπηση αναμένεται να ξεκινήσει την επόμενη εβδομάδα και ότι η Microsoft σχεδιάζει να επεκτείνει το Project Perception με πιο εξειδικευμένους πράκτορες ασφαλείας.
Το άμεσο κοινό είναι οι ομάδες ασφαλείας, αλλά οι συνέπειες είναι ευρύτερες για οποιονδήποτε κατασκευάζει αυτοματισμό AI γύρω από ευαίσθητα εργαλεία. Εάν η εργασία στον κυβερνοχώρο εξαρτάται ολοένα και περισσότερο από εξειδικευμένους πράκτορες, τότε το λειτουργικό επίπεδο γύρω από αυτούς τους πράκτορες - έλεγχος ταυτότητας, καταγραφή ελέγχου, εναλλακτική λύση μοντέλων, αδειοδότηση, έλεγχοι κόστους και ιχνηλασιμότητα περιστατικών - γίνεται εξίσου σημαντικό με την ποιότητα του μοντέλου. ένα γενικό chatbot ή αυτόνομο τελικό σημείο API. Το MDASH περιγράφεται ως μια ροή εργασιών πολλαπλών παραγόντων για την εύρεση και την αποκατάσταση τρωτών σημείων, πράγμα που σημαίνει ότι το μοντέλο είναι ενσωματωμένο σε ένα σύστημα που μπορεί να συντονίσει εργασίες, εργαλεία και διαδρομές κλιμάκωσης.
Η αναφερόμενη επιλογή σχεδίασης είναι πρακτική: αφήστε ένα μικρότερο ή πιο εξειδικευμένο μοντέλο να χειριστεί την πλειονότητα των συνηθισμένων υποθέσεων με πράκτορες ασφαλείας και, στη συνέχεια, σε μεγαλύτερες υποθέσεις μοντελοποίησης. Αυτό μοιάζει με το πώς σκέφτονται ήδη ώριμες ομάδες μηχανικών για τις υποδομές. Δεν χρειάζεται κάθε αίτημα το πιο ακριβό μοντέλο με την υψηλότερη καθυστέρηση. Ορισμένες εργασίες επωφελούνται από ένα στενό μοντέλο που κατανοεί τον τομέα, ακολουθεί μια περιορισμένη ροή εργασίας και μπορεί να ελέγχεται πιο αυστηρά.
Το μοντέλο πρόσβασης της Microsoft είναι επίσης αξιοσημείωτο. Περιορίζοντας το MAI-Cyber-1-Flash μέσω MDASH σε επαληθευμένους υπερασπιστές, η εταιρεία αναγνωρίζει τη φύση διπλής χρήσης της ανακάλυψης και αποκατάστασης ευπάθειας. Οι ίδιες δυνατότητες που βοηθούν μια αμυντική ομάδα να αξιολογήσει τις εκθέσεις μπορούν να βοηθήσουν έναν εισβολέα εάν απελευθερωθεί χωρίς ελέγχους. Αυτό καθιστά την καταλληλότητα και την επίβλεψη χρήσης μέρος της αρχιτεκτονικής του προϊόντος και όχι μια ξεχωριστή εκ των υστέρων σκέψη συμμόρφωσης.
Γιατί οι προγραμματιστές και οι ομάδες ασφαλείας πρέπει να ενδιαφέρονται
Για τις ομάδες ασφαλείας, το πιο σαφές πιθανό όφελος είναι η εξειδίκευση. Η ανακάλυψη ευπάθειας, η ανάλυση εκμεταλλευσιμότητας, η καθοδήγηση ενημερώσεων κώδικα και ο σχεδιασμός αποκατάστασης απαιτούν πλαίσιο που τα γενικά μοντέλα ενδέχεται να μην χειρίζονται με συνέπεια. Ένα μοντέλο ειδικά για τον κυβερνοχώρο ενσωματωμένο σε μια ροή εργασιών αμυντικού θα μπορούσε να μειώσει την ανάγκη δημιουργίας κάθε πολιτικής προτροπής, ανάλυσης και εργαλείου από την αρχή.
Για προγραμματιστές που κατασκευάζουν εσωτερικά συστήματα τεχνητής νοημοσύνης, η κυκλοφορία ενισχύει ένα μοτίβο σχεδίασης που γίνεται δύσκολο να αγνοηθεί: δρομολογήστε εργασίες ανά κίνδυνο, τομέα και κόστος. Ένα αίτημα διαλογής ευπάθειας δεν είναι το ίδιο με μια περίληψη μάρκετινγκ. Ένας πράκτορας αποκατάστασης με πρόσβαση σε αποθετήρια, σαρωτές, εισιτήρια και διαμόρφωση cloud χρειάζεται περισσότερα προστατευτικά κιγκλιδώματα από έναν βοηθό μόνο κειμένου. Σε αυτό το περιβάλλον, η επιλογή μοντέλου γίνεται μια απόφαση πολιτικής, όχι μια προτίμηση που ορίζεται από έναν μεμονωμένο χρήστη.
Εδώ γίνεται σχετική μια πύλη API AI. Οι ομάδες που δρομολογούν ήδη πολλά μοντέλα για κόστος, λανθάνοντα χρόνο ή διαθεσιμότητα, μπορεί τώρα να χρειάζονται ένα βαθύτερο επίπεδο ασφάλειας: ποια μοντέλα μπορούν να επεξεργάζονται δεδομένα ευπάθειας, ποιοι χρήστες μπορούν να καλούν εργαλεία, πότε πρέπει να κλιμακωθεί ένα αίτημα και πώς καταγράφεται κάθε βήμα. Η πρακτική σύνδεση του Model Gate βρίσκεται σε αυτό το επίπεδο διακυβέρνησης — η ενοποιημένη χρέωση, η διαχείριση κλειδιού API, τα αναλυτικά στοιχεία χρήσης και τα στοιχεία ελέγχου ομάδας είναι πιο χρήσιμα όταν η πρόσβαση στο μοντέλο δεν είναι πλέον επίπεδη και εναλλάξιμη.
Το ίδιο ισχύει για εταιρείες και συνεργάτες που δημιουργούν υπηρεσίες πάνω από την υποδομή τεχνητής νοημοσύνης. Ένας πελάτης μπορεί να θέλει αυτοματοποιημένο έλεγχο κώδικα ή υποδομής, αλλά ο πάροχος πρέπει να αποφασίσει ποιες ροές εργασιών ασφαλείας απαιτούν επαληθευμένη πρόσβαση, ποια αρχεία καταγραφής διατηρούνται και ποια εναλλακτικά μοντέλα επιτρέπονται. Τα εξειδικευμένα μοντέλα στον κυβερνοχώρο κάνουν αυτή τη συζήτηση πιο συγκεκριμένη.
Οι ισχυρισμοί κόστους χρειάζονται επικύρωση
Η Microsoft είπε ότι το MAI-Cyber-1-Flash μπορεί να προσφέρει παγκόσμιας κλάσης απόδοση με περίπου το ήμισυ του κόστους των κορυφαίων μοντέλων, σύμφωνα με την κάλυψη της ανακοίνωσης. Αυτός είναι ένας ισχυρισμός σχετικός με την προμήθεια, αλλά δεν θα πρέπει να αντιμετωπίζεται ακόμη ως αποδεικτικό στοιχείο. Οι συγκρίσεις κόστους και απόδοσης που αναφέρονται από τον προμηθευτή εξαρτώνται από την επιλογή κριτηρίων αναφοράς, τον συνδυασμό φόρτου εργασίας, τον έγκαιρο σχεδιασμό, τη χρήση εργαλείων και τον χειρισμό αστοχιών.
Το πιο αξιόπιστο στοιχείο εκκίνησης είναι αρχιτεκτονικό, όχι αριθμητικό.Η Microsoft περιγράφει ανοιχτά μια στρατηγική δρομολόγησης μοντέλων μέσα σε ένα σύστημα αντιπροσώπων ασφαλείας: χρησιμοποιήστε το εξειδικευμένο μοντέλο για τις περισσότερες εργασίες και διατηρήστε μεγαλύτερα μοντέλα για εξαιρετικές περιπτώσεις. Εάν αυτή η προσέγγιση έχει καλή απόδοση σε πραγματικά περιβάλλοντα, θα μπορούσε να ωθήσει τις ομάδες επιχειρήσεων σε πιο σαφή βελτιστοποίηση κόστους εξαγωγής συμπερασμάτων. Αντί να ρωτούν εάν ένα μοντέλο είναι το "καλύτερο", οι ομάδες θα ρωτήσουν ποιο μοντέλο είναι αρκετά καλό για κάθε βήμα, τι κοστίζει και ποιους κινδύνους εισάγει.
Αυτή η αλλαγή έχει σημασία για τους προϋπολογισμούς. Ο αυτοματισμός ασφαλείας μπορεί να δημιουργήσει μεγάλους όγκους αιτημάτων όταν συνδέεται με σαρωτές, αποθήκες κωδικών, εισιτήρια, αγωγούς CI και τηλεμετρία cloud. Λίγα σεντς που εξοικονομούνται ανά βήμα μπορεί να έχουν σημασία σε κλίμακα, αλλά μόνο εάν η ακρίβεια, η ιχνηλασιμότητα και η ασφάλεια διατηρούνται υπό συνθήκες παραγωγής.
Τι παραμένει αβέβαιο
Πολλές λεπτομέρειες εξακολουθούν να χρειάζονται επιβεβαίωση προτού οι επιχειρήσεις μπορέσουν να λάβουν αποφάσεις δρομολόγησης ή προμήθειας. Ο χρόνος δημόσιας προεπισκόπησης ενδέχεται να αλλάξει και τα κριτήρια καταλληλότητας για επαληθευμένους υπερασπιστές ενδέχεται να περιορίσουν το ποιος μπορεί να δοκιμάσει το μοντέλο νωρίς. Δεν είναι επίσης σαφές πόσο από το MAI-Cyber-1-Flash θα εκτεθεί ως ξεχωριστά διευθυνσιοδοτήσιμο μοντέλο αντί να παραμείνει στενά συνδεδεμένο με τις ροές εργασίας MDASH.
Η ανεξάρτητη αξιολόγηση είναι το άλλο στοιχείο που λείπει. Τα σημεία αναφοράς ασφαλείας μπορεί να είναι δύσκολο να ερμηνευτούν επειδή η εργασία ευπάθειας στον πραγματικό κόσμο εξαρτάται από ακατάστατα αποθετήρια, ελλιπή αρχεία καταγραφής, ψευδή θετικά στοιχεία, πολιτικές για συγκεκριμένο οργανισμό και δικαιώματα εργαλείων. Ένα μοντέλο που αποδίδει καλά σε ένα ελεγχόμενο σημείο αναφοράς μπορεί να χρειάζεται ακόμα εκτεταμένα προστατευτικά κιγκλιδώματα για να μπορέσει να προτείνει με ασφάλεια διορθώσεις ή να ενεργοποιήσει ενέργειες στην παραγωγή.
Ακόμα και με αυτές τις προειδοποιήσεις, η ανακοίνωση είναι σημαντική. Δείχνει έναν μεγάλο προμηθευτή τεχνητής νοημοσύνης που αντιμετωπίζει την ασφάλεια στον κυβερνοχώρο ως έναν εξειδικευμένο επιχειρησιακό τομέα και όχι ως μια άλλη κατηγορία προτροπής. Για τις επιχειρήσεις, το μάθημα είναι να προετοιμαστούν για ένα πρότυπο οικοσύστημα όπου τα δικαιώματα πρόσβασης, η δρομολόγηση εργασιών, τα ίχνη ελέγχου και οι εναλλακτικές πολιτικές είναι βασικές για τις ροές εργασιών ασφάλειας AI. Οι νικητές δεν θα είναι μόνο οι ομάδες με τα πιο ικανά μοντέλα, αλλά οι ομάδες που μπορούν να καθορίσουν πότε και πώς χρησιμοποιούνται αυτά τα μοντέλα.