Microsoft je predstavil MAI-Cyber-1-Flash, model umetne inteligence, osredotočen na kibernetsko varnost, vgrajen v MDASH, večagentni pas podjetja za identifikacijo in odpravo ranljivosti. Predstavitev ni le še en model, dodan v katalog. To je znak, da se varnostna umetna inteligenca usmerja k domensko specifičnim sistemom, nadzorom dostopa in usmerjanju opravil namesto k enemu splošnemu modelu, ki obravnava vsak korak delovnega toka.

Po mnenju Microsofta je MAI-Cyber-1-Flash zasnovan za izvajanje kar 90 % nalog MDASH, medtem ko so večji modeli rezervirani za izjemno težke primere. Dostop je omejen na preverjene zagovornike prek MDASH. Axios je poročal, da se bo javni predogled predvidoma začel naslednji teden in da Microsoft načrtuje razširitev Project Perception z bolj specializiranimi varnostnimi agenti.

Neposredno občinstvo so varnostne ekipe, vendar so posledice širše za vsakogar, ki gradi avtomatizacijo AI na občutljivih orodjih. Če je delo na področju kibernetske varnosti vse bolj odvisno od specializiranih agentov, postane operativni sloj okoli teh agentov – avtentikacija, revizijsko beleženje, nadomestni model, izdajanje dovoljenj, nadzor stroškov in sledljivost incidentov – prav tako pomemben kot kakovost modela.

Kaj se je spremenilo

Microsoft postavlja MAI-Cyber-1-Flash kot namensko izdelan kibernetski model znotraj MDASH in ne kot splošen chatbot ali samostojna končna točka API-ja. MDASH je opisan kot potek dela z več agenti za iskanje in odpravljanje ranljivosti, kar pomeni, da je model vdelan v sistem, ki lahko usklajuje naloge, orodja in poti eskalacije.

Navedena izbira zasnove je praktična: pustite, da manjši ali bolj specializiran model obravnava večino rutinskega dela varnostnega agenta, nato pa težje primere posredujte večjim modelom. To spominja na to, kako zrele inženirske ekipe že razmišljajo o infrastrukturi. Vsaka zahteva ne potrebuje najdražjega modela z najvišjo zakasnitvijo. Nekatera dela imajo koristi od ozkega modela, ki razume domeno, sledi omejenemu delovnemu toku in ga je mogoče strožje upravljati.

Pomemben je tudi Microsoftov model dostopa. Z omejevanjem MAI-Cyber-1-Flash prek MDASH na preverjene zagovornike podjetje priznava naravo dvojne uporabe odkrivanja in odpravljanja ranljivosti. Iste zmožnosti, ki pomagajo obrambni ekipi pri triažiranju izpostavljenosti, lahko pomagajo napadalcu, če je izpuščen brez nadzora. Zaradi tega sta nadzor nad upravičenostjo in uporabo del arhitekture izdelka, ne pa ločena naknadna misel o skladnosti.

Zakaj bi moralo skrbeti razvijalce in varnostne ekipe

Za varnostne ekipe je največja možna korist specializacija. Odkrivanje ranljivosti, analiza izkoriščenosti, navodila za popravke in načrtovanje sanacije zahtevajo kontekst, ki ga splošni modeli morda ne bodo dosledno obravnavali. Kibernetski specifični model, vdelan v potek dela zaščitnika, bi lahko zmanjšal potrebo po izdelavi vsake politike poziva, razčlenjevalnika in orodij iz nič.

Za razvijalce, ki gradijo notranje sisteme umetne inteligence, lansiranje krepi vzorec načrtovanja, ki ga je vedno težko prezreti: usmerjanje nalog glede na tveganje, domeno in ceno. Zahteva za triažo ranljivosti ni isto kot tržni povzetek. Popravljalni agent z dostopom do repozitorijev, optičnih bralnikov, vozovnic in konfiguracije oblaka potrebuje več ograje kot pomočnik samo za besedilo. V tem okolju izbira modela postane odločitev politike in ne preferenca, ki jo določi posamezen uporabnik.

Tu postane prehod AI API pomemben. Ekipe, ki že usmerjajo prek več modelov za ceno, zakasnitev ali razpoložljivost, bodo zdaj morda potrebovale globljo varnostno plast: kateri modeli lahko obdelujejo podatke o ranljivosti, kateri uporabniki lahko prikličejo orodja, kdaj je treba zahtevo povečati in kako se zabeleži vsak korak. Praktična povezava Model Gate je v tej ravni upravljanja – poenoteno zaračunavanje, upravljanje ključev API-ja, analitika uporabe in nadzor ekipe so bolj uporabni, ko dostop do modela ni več enoten in zamenljiv.

Enako velja za agencije in partnerje, ki gradijo storitve na vrhu infrastrukture AI. Stranka morda želi samodejni pregled kode ali infrastrukture, vendar se mora ponudnik odločiti, kateri varnostni poteki dela zahtevajo preverjen dostop, kateri dnevniki se ohranijo in kateri nadomestni modeli so dovoljeni. Specializirani kibernetski modeli naredijo ta pogovor bolj konkreten.

Zahtevki o stroških potrebujejo potrditev

Microsoft je dejal, da lahko MAI-Cyber-1-Flash zagotovi zmogljivost svetovnega razreda za približno polovico cene vodilnih modelov, glede na poročanje o objavi. To je zahtevek, ki je pomemben za javno naročilo, vendar ga še ne bi smeli obravnavati kot poravnan dokaz. Primerjave stroškov in zmogljivosti, ki jih poročajo prodajalci, so odvisne od izbire merila uspešnosti, mešanice delovne obremenitve, hitre zasnove, uporabe orodja in obravnave napak.

Zanesljivejši zaključek je arhitekturni, ne numerični.Microsoft odkrito opisuje strategijo usmerjanja modela znotraj sistema varnostnega posrednika: uporabite specializirani model za večino dela in obdržite večje modele za izjemne primere. Če se ta pristop dobro obnese v resničnih okoljih, bi lahko podjetniške ekipe spodbudil k bolj eksplicitni optimizaciji stroškov sklepanja. Namesto spraševanja, ali je en model »najboljši«, bodo ekipe vprašale, kateri model je dovolj dober za posamezen korak, koliko stane in kakšna tveganja prinaša.

Ta premik je pomemben za proračune. Varnostna avtomatizacija lahko ustvari velike količine zahtev, ko je povezana s skenerji, repozitoriji kod, vstopnicami, cevovodi CI in telemetrijo v oblaku. Nekaj ​​centov, prihranjenih na korak, je lahko pomembnih v obsegu, vendar le, če natančnost, sledljivost in varnost zdržijo v proizvodnih pogojih.

Kaj ostaja negotovo

Še vedno je treba potrditi več podrobnosti, preden lahko podjetja sprejmejo odločitve o usmerjanju ali nabavi. Čas javnega predogleda se lahko spremeni, merila primernosti za preverjene zagovornike pa lahko omejijo, kdo lahko predčasno preizkusi model. Prav tako ni jasno, koliko MAI-Cyber-1-Flash bo izpostavljenega kot ločeno naslovljiv model v primerjavi s tem, da bo ostal tesno vezan na poteke dela MDASH.

Drugi manjkajoči del je neodvisna ocena. Varnostna merila uspešnosti je lahko težko razlagati, ker je delo z ranljivostmi v resničnem svetu odvisno od neurejenih skladišč, nepopolnih dnevnikov, lažno pozitivnih rezultatov, pravilnikov, specifičnih za organizacijo, in dovoljenj orodij. Model, ki dobro deluje pri nadzorovanem merilu uspešnosti, morda še vedno potrebuje obsežne zaščitne ograje, preden lahko varno predlaga popravke ali sproži dejanja v proizvodnji.

Tudi s temi opozorili je objava pomembna. Prikazuje glavnega prodajalca umetne inteligence, ki kibernetsko varnost obravnava kot specializirano operativno področje in ne le kot še eno hitro kategorijo. Za podjetja je lekcija, da se pripravijo na vzorčni ekosistem, kjer so pravice dostopa, usmerjanje opravil, revizijske sledi in nadomestne politike osrednjega pomena za varnostne poteke dela AI. Zmagovalci ne bodo le ekipe z najzmogljivejšimi modeli, ampak ekipe, ki bodo lahko nadzorovale, kdaj in kako se ti modeli uporabljajo.