Microsoft ir atklājusi MAI-Cyber-1-Flash — uz kiberdrošību vērstu mākslīgā intelekta modeli, kas iebūvēts MDASH — uzņēmuma vairāku aģentu ievainojamības noteikšanai un novēršanai. Izlaišana nav vienkārši vēl viens modelis, kas pievienots katalogam. Tā ir zīme, ka drošības mākslīgais intelekts virzās uz domēnspecifiskām sistēmām, piekļuves vadīklām un uzdevumu maršrutēšanu, nevis uz vienu vispārēja pielietojuma modeli, kas apstrādā katru darbplūsmas posmu.
Saskaņā ar Microsoft teikto, MAI-Cyber-1-Flash ir paredzēts, lai veiktu pat 90% MDASH uzdevumu, savukārt lielāki modeļi ir paredzēti īpaši sarežģītiem gadījumiem. Piekļuve ir ierobežota verificētiem aizstāvjiem, izmantojot MDASH. Axios ziņoja, ka ir paredzēts, ka publiskais priekšskatījums sāksies nākamajā nedēļā un ka Microsoft plāno paplašināt Project Perception ar specializētākiem drošības aģentiem.
Tiešā mērķauditorija ir drošības komandas, taču ietekme ir plašāka ikvienam, kas veido AI automatizāciju, izmantojot sensitīvus rīkus. Ja kiberdrošības darbs arvien vairāk ir atkarīgs no specializētiem aģentiem, tad operatīvais slānis ap šiem aģentiem — autentifikācija, audita reģistrēšana, modeļa atkāpšanās, atļauju piešķiršana, izmaksu kontrole un incidentu izsekojamība — kļūst tikpat svarīgs kā modeļa kvalitāte.
Kas mainījās
Microsoft pozicionē MAI-Cyber-1-Flash kā vispārēju API, nevis vispārēju MDA cyber modeli, kas ir mērķtiecīgi veidots. galapunkts. MDASH ir aprakstīts kā vairāku aģentu darbplūsma ievainojamību atrašanai un novēršanai, kas nozīmē, ka modelis ir iegults sistēmā, kas var koordinēt uzdevumus, rīkus un eskalācijas ceļus.
Ziņotā dizaina izvēle ir praktiska: ļaujiet mazākam vai specializētākam modelim veikt lielāko daļu ikdienas drošības aģenta darba, pēc tam sarežģītākos gadījumus pārvērš uz lielākiem modeļiem. Tas atgādina to, kā nobriedušas inženieru komandas jau domā par infrastruktūru. Ne katram pieprasījumam ir nepieciešams visdārgākais un vislielākā latentuma modelis. Dažiem darbiem ir izdevīgi šaurs modelis, kas izprot domēnu, seko ierobežotai darbplūsmai un to var pārvaldīt stingrāk.
Ievērojams ir arī Microsoft piekļuves modelis. Ierobežojot MAI-Cyber-1-Flash, izmantojot MDASH, līdz pārbaudītiem aizstāvjiem, uzņēmums atzīst ievainojamības atklāšanas un novēršanas divējāda lietojuma raksturu. Tās pašas iespējas, kas palīdz aizsardzības komandai izšķirt ekspozīciju, var palīdzēt uzbrucējam, ja tas tiek atbrīvots bez vadības ierīcēm. Tas padara piemērotības un lietošanas uzraudzību par daļu no produkta arhitektūras, nevis par atsevišķu atbilstības pārdomāšanu.
Kāpēc izstrādātājiem un drošības komandām būtu jārūpējas
Drošības komandām skaidrākais iespējamais ieguvums ir specializācija. Ievainojamības atklāšanai, izmantojamības analīzei, ielāpu norādījumiem un atlīdzināšanas plānošanai ir nepieciešams konteksts, ar kuru vispārīgie modeļi var konsekventi rīkoties. Kiberspecifisks modelis, kas iegults aizsarga darbplūsmā, varētu samazināt vajadzību izveidot katru uzvedni, parsētāju un rīku politiku no nulles.
Izstrādātājiem, kuri veido iekšējās AI sistēmas, palaišana pastiprina dizaina modeli, kuru kļūst grūti ignorēt: maršrutēt uzdevumus pēc riska, domēna un izmaksām. Ievainojamības klasifikācijas pieprasījums nav tas pats, kas mārketinga kopsavilkums. Sanācijas aģentam ar piekļuvi krātuvēm, skeneriem, biļetēm un mākoņa konfigurācijai ir nepieciešams vairāk aizsargmargu nekā tikai teksta palīgam. Šajā vidē modeļa izvēle kļūst par politikas lēmumu, nevis par individuāla lietotāja iestatītu preferenci.
Šajā gadījumā AI API vārteja kļūst aktuāla. Komandām, kuras jau veic maršrutus vairākos modeļos izmaksu, latentuma vai pieejamības noteikšanai, tagad var būt nepieciešams padziļināts drošības slānis: kuri modeļi var apstrādāt ievainojamības datus, kuri lietotāji var izsaukt rīkus, kad pieprasījums ir jāpalielina un kā tiek reģistrēts katrs solis. Model Gate praktiskā saikne ir šajā pārvaldības līmenī — vienoti norēķini, API atslēgu pārvaldība, lietojuma analīze un komandas vadīklas ir noderīgākas, ja modeļa piekļuve vairs nav vienota un savstarpēji aizstājama.
Tas pats attiecas uz aģentūrām un partneriem, kas veido pakalpojumus papildus AI infrastruktūrai. Klients var vēlēties automatizētu koda vai infrastruktūras pārskatīšanu, taču pakalpojumu sniedzējam ir jāizlemj, kurām drošības darbplūsmām ir nepieciešama verificēta piekļuve, kuri žurnāli tiek saglabāti un kuri modeļa rezerves ir atļautas. Specializētie kibermodeļi šo sarunu padara konkrētāku.
Izmaksu apgalvojumi ir jāapstiprina
Saskaņā ar paziņojumu, ka MAI-Cyber-1-Flash var nodrošināt pasaules līmeņa veiktspēju par aptuveni pusi no vadošo modeļu izmaksām. Tā ir ar iepirkumu saistīta prasība, taču tā vēl nav jāuzskata par apstiprinātu pierādījumu. Pārdevēju ziņotie izmaksu un veiktspējas salīdzinājumi ir atkarīgi no etalona izvēles, darba slodžu kombinācijas, ātras konstrukcijas, instrumentu izmantošanas un kļūdu apstrādes.
Uzticamākā informācija ir arhitektoniska, nevis skaitliska.Microsoft atklāti apraksta modeļa maršrutēšanas stratēģiju drošības aģentu sistēmā: izmantojiet specializēto modeli lielākajai daļai darbu un saglabājiet lielākus modeļus izņēmuma gadījumos. Ja šī pieeja labi darbojas reālajā vidē, tā varētu mudināt uzņēmumu komandas uz precīzāku izmaksu optimizāciju. Tā vietā, lai jautātu, vai viens modelis ir “vislabākais”, komandas jautās, kurš modelis ir pietiekami labs katrai darbībai, cik tas maksā un kādus riskus tas rada.
Šai maiņai ir nozīme attiecībā uz budžetu. Drošības automatizācija var ģenerēt lielu pieprasījumu apjomu, ja tā ir savienota ar skeneriem, kodu krātuvēm, biļetēm, CI cauruļvadiem un mākoņa telemetriju. Dažiem centiem, kas ietaupīti par soli, var būt liela nozīme, taču tikai tad, ja precizitāte, izsekojamība un drošība pastāv ražošanas apstākļos.
Kas joprojām ir neskaidrs
Lai uzņēmumi varētu pieņemt lēmumus par maršrutēšanu vai iepirkumu, vēl ir jāapstiprina vairākas detaļas. Publiskās priekšskatījuma laiks var mainīties, un verificēto aizstāvju atbilstības kritēriji var ierobežot to, kurš var testēt modeli agri. Nav arī skaidrs, cik daudz MAI-Cyber-1-Flash tiks eksponēts kā atsevišķi adresējams modelis, salīdzinot ar to, ka tas būs cieši saistīts ar MDASH darbplūsmām.
Otrs trūkstošais elements ir neatkarīgs novērtējums. Drošības kritērijus var būt grūti interpretēt, jo darbs ar ievainojamību reālajā pasaulē ir atkarīgs no nekārtīgām krātuvēm, nepilnīgiem žurnāliem, kļūdaini pozitīviem datiem, organizācijai specifiskām politikām un rīku atļaujām. Modelim, kas labi darbojas kontrolētā etalonā, var būt nepieciešami plaši aizsargmargas, lai tas varētu droši ieteikt labojumus vai aktivizēt darbības ražošanā.
Pat ar šiem brīdinājumiem paziņojums ir svarīgs. Tas parāda, ka nozīmīgs mākslīgā intelekta pārdevējs kiberdrošību uzskata par specializētu darbības jomu, nevis tikai par vēl vienu tūlītēju kategoriju. Uzņēmumiem mācība ir sagatavoties ekosistēmas paraugam, kurā piekļuves tiesības, uzdevumu maršrutēšana, audita pēdas un atkāpšanās politikas ir galvenās AI drošības darbplūsmās. Uzvarēs ne tikai komandas ar visspējīgākajiem modeļiem, bet arī komandas, kas var noteikt, kad un kā šie modeļi tiek izmantoti.