Microsoft avalikustas MAI-Cyber-1-Flashi, küberturvalisusele keskendunud tehisintellekti mudeli, mis on sisse ehitatud MDASH-i, mis on ettevõtte haavatavuste tuvastamise ja parandamise mitmest agentuurist koosnev rakmed. Käivitamine ei ole lihtsalt järjekordne kataloogi lisatud mudel. See on märk sellest, et turbe-AI liigub pigem domeenispetsiifiliste süsteemide, juurdepääsukontrollide ja ülesannete marsruutimise poole, mitte ühe üldotstarbelise mudeli poole, mis käsitleb töövoo iga etappi.

Microsofti sõnul on MAI-Cyber-1-Flash loodud täitma kuni 90% MDASH-i ülesannetest, samas kui suuremad mudelid on reserveeritud erakordselt raskete juhtumite jaoks. Juurdepääs on MDASH-i kaudu piiratud kinnitatud kaitsjatega. Axios teatas, et avalik eelvaade peaks algama järgmisel nädalal ja Microsoft kavatseb laiendada Project Perceptionit spetsialiseerunud turbeagentidega.

Vahete vaatajaskond on turvameeskonnad, kuid mõju on laiem kõigile, kes ehitavad tehisintellekti automatiseerimist tundlike tööriistade ümber. Kui küberturvalisuse töö sõltub üha enam spetsialiseeritud agentidest, muutub nende agentide ümber olev operatiivne kiht – autentimine, auditi logimine, mudeli tagavara, lubade andmine, kulude kontroll ja intsidentide jälgitavus – sama oluliseks kui mudeli kvaliteet.

Mis muutus

Microsoft positsioneerib MAI-Cyber-1-Flashi MAI-Cyber-1-Flashi asemel üldise MDA-sisese chatbooti või MDA cyber-mudeliga. lõpp-punkt. MDASH-i kirjeldatakse kui mitut agenti hõlmavat töövoogu haavatavuste leidmiseks ja kõrvaldamiseks, mis tähendab, et mudel on manustatud süsteemi, mis suudab koordineerida ülesandeid, tööriistu ja eskalatsiooniteid.

Aruandes esitatud disainivalik on praktiline: laske väiksemal või spetsialiseeritud mudelil teha suurem osa rutiinsest turbeagendi tööst, seejärel eskaleerige raskemad juhtumid suurematele mudelitele. See sarnaneb sellega, kuidas küpsed insenerimeeskonnad juba infrastruktuurist mõtlevad. Mitte iga päring ei vaja kõige kallimat ja kõrgeima latentsusega mudelit. Mõne töö jaoks on kasulik kitsas mudel, mis mõistab domeeni, järgib piiratud töövoogu ja mida saab rangemalt juhtida.

Märkimisväärne on ka Microsofti juurdepääsumudel. Piirates MAI-Cyber-1-Flashi MDASH-i kaudu kontrollitud kaitsjatele, tunnistab ettevõte haavatavuse avastamise ja parandamise kahesuguse kasutusega olemust. Samad võimalused, mis aitavad kaitsval meeskonnal kokkupuudet teha, võivad aidata ründajat, kui ta vabastatakse ilma juhtelementideta. See muudab sobilikkuse ja kasutusjärelevalve tootearhitektuuri osaks, mitte eraldi järgimise järelmõtlemiseks.

Miks peaksid arendajad ja turvameeskonnad hoolima

Turbemeeskondade jaoks on kõige selgem potentsiaalne kasu spetsialiseerumine. Haavatavuse avastamine, kasutatavuse analüüs, paikade juhised ja parandustööde kavandamine nõuavad konteksti, mida üldised mudelid ei pruugi järjekindlalt käsitleda. Kaitsja töövoogu sisseehitatud küberspetsiifiline mudel võib vähendada vajadust luua iga viip, parser ja tööriistapoliitika nullist.

Sisemiste AI-süsteemide loomisel tugevdab käivitamine disainimustrit, mida on raske ignoreerida: suunata ülesanded riski, domeeni ja kulude järgi. Haavatavuse triaažitaotlus ei ole sama, mis turunduskokkuvõte. Repositooriumidele, skanneritele, piletitele ja pilvekonfiguratsioonile juurdepääsu omav parandusagent vajab rohkem kaitsepiirdeid kui ainult tekstiga assistent. Selles keskkonnas muutub mudeli valik poliitikaotsuseks, mitte üksiku kasutaja määratud eelistuseks.

Siin muutub AI API lüüs asjakohaseks. Meeskonnad, kes juba marsruudivad kulude, latentsuse või saadavuse osas mitme mudeli vahel, võivad nüüd vajada sügavamat turbekihti: millised mudelid saavad haavatavuse andmeid töödelda, millised kasutajad saavad tööriistu kasutada, millal tuleb taotlust eskaleerida ja kuidas iga samm logitakse. Model Gate'i praktiline seos on selles halduskihis – ühtne arveldamine, API-võtme haldamine, kasutusanalüüs ja meeskonna juhtelemendid on kasulikumad, kui mudelile juurdepääs ei ole enam ühtlane ega vahetatav.

Sama kehtib agentuuride ja partnerite kohta, kes loovad teenuseid tehisintellekti infrastruktuurile. Klient võib soovida automaatset koodi või infrastruktuuri ülevaatust, kuid teenusepakkuja peab otsustama, millised turbetöövood nõuavad kontrollitud juurdepääsu, millised logid säilitatakse ja milliste mudelite varud on lubatud. Spetsiaalsed kübermudelid muudavad selle vestluse konkreetsemaks.

Kulunõuded vajavad kinnitamist

Microsoft on öelnud, et MAI-Cyber-1-Flash suudab pakkuda maailmatasemel jõudlust ligikaudu poole odavamalt kui juhtivad mudelid. See on hankega seotud nõue, kuid seda ei tohiks veel käsitleda kinnitatud tõendina. Tarnija teatatud kulude ja toimivuse võrdlused sõltuvad võrdlusaluse valikust, töökoormuse kombinatsioonist, kiirest disainist, tööriistade kasutamisest ja rikete käsitlemisest.

Usaldusväärsem ülevaade on arhitektuurne, mitte numbriline.Microsoft kirjeldab avalikult mudeli marsruutimise strateegiat turbeagendi süsteemis: kasutage enamiku tööde jaoks spetsiaalset mudelit ja erandjuhtudel hoidke suuremaid mudeleid. Kui see lähenemine toimib hästi reaalses keskkonnas, võib see suunata ettevõtete meeskondi täpsema järelduste kulude optimeerimise poole. Selle asemel, et küsida, kas üks mudel on „parim”, küsivad meeskonnad, milline mudel on iga etapi jaoks piisavalt hea, kui palju see maksab ja milliseid riske see kaasa toob.

See nihe on eelarve jaoks oluline. Turvaautomaatika võib skanneri, koodihoidlate, piletite, CI torujuhtmete ja pilve telemeetriaga ühenduses genereerida suuri päringuid. Mõned säästetud sendid sammu kohta võivad mastaabis olla olulised, kuid ainult siis, kui täpsus, jälgitavus ja ohutus tootmistingimustes vastu peavad.

Mis jääb ebaselgeks

Mitmed üksikasjad vajavad veel kinnitust, enne kui ettevõtted saavad teha marsruudi- või hankeotsuseid. Avaliku eelvaate ajastus võib muutuda ja kinnitatud kaitsjate sobivuskriteeriumid võivad piirata seda, kes saavad mudelit varakult testida. Samuti on ebaselge, kui palju MAI-Cyber-1-Flashi eksponeeritakse eraldi adresseeritava mudelina, võrreldes MDASH-i töövoogudega tihedalt seotuks jäämisega.

Sõltumatu hindamine on teine ​​puuduv osa. Turvalisuse kriteeriume võib olla raske tõlgendada, kuna tegelik haavatavus sõltub räpastest hoidlatest, mittetäielikest logidest, valepositiivsetest tulemustest, organisatsioonispetsiifilistest poliitikatest ja tööriistade lubadest. Mudel, mis toimib hästi kontrollitud võrdlusaluses, võib siiski vajada ulatuslikke kaitsepiirdeid, enne kui see saab ohutult soovitada parandusi või käivitada toiminguid tootmises.

Isegi nende hoiatustega on teade oluline. See näitab, et suur tehisintellekti müüja käsitleb küberjulgeolekut pigem spetsialiseeritud tegevusvaldkonnana kui lihtsalt järjekordse viipekategooriana. Ettevõtete jaoks on õppetund ette valmistada mudelökosüsteemiks, kus juurdepääsuõigused, ülesannete marsruutimine, kontrolljäljed ja varupoliitikad on tehisintellekti turbe töövoogudes kesksel kohal. Võitjad ei ole ainult meeskonnad, kellel on kõige võimekamad mudelid, vaid ka meeskonnad, kes saavad määrata, millal ja kuidas neid mudeleid kasutatakse.