Microsoft predstavil MAI-Cyber-1-Flash, model umelej inteligencie zameraný na kybernetickú bezpečnosť, ktorý je zabudovaný do MDASH, multiagentového systému spoločnosti na identifikáciu a nápravu zraniteľnosti. Uvedenie na trh nie je len ďalším modelom pridaným do katalógu. Je to znak toho, že bezpečnostná umelá inteligencia smeruje k doménovým systémom, riadeniu prístupu a smerovaniu úloh, a nie k jedinému univerzálnemu modelu, ktorý zvláda každý krok pracovného toku.

Podľa spoločnosti Microsoft je MAI-Cyber-1-Flash navrhnutý tak, aby vykonával až 90 % úloh MDASH, zatiaľ čo väčšie modely sú vyhradené pre mimoriadne zložité prípady. Prístup je obmedzený na overených obrancov prostredníctvom MDASH. Spoločnosť Axios uviedla, že verejná ukážka by sa mala začať nasledujúci týždeň a že Microsoft plánuje rozšíriť Project Perception o viac špecializovaných bezpečnostných agentov.

Bezprostredným publikom sú bezpečnostné tímy, ale dôsledky sú širšie pre každého, kto vytvára automatizáciu AI okolo citlivých nástrojov. Ak práca v oblasti kybernetickej bezpečnosti stále viac závisí od špecializovaných agentov, potom sa operačná vrstva okolo týchto agentov – autentifikácia, protokolovanie auditu, záložný model, povolenia, kontrola nákladov a sledovateľnosť incidentov – stáva rovnako dôležitou ako kvalita modelu.

Čo sa zmenilo

Microsoft umiestňuje MAI-Cyber-1-Flash ako účelovo vytvorený všeobecný kybernetický robot namiesto samostatného chatovacieho robota v rámci MDASH ako samostatného kybernetického modelu. MDASH je opísaný ako pracovný postup s viacerými agentmi na vyhľadávanie a nápravu slabých miest, čo znamená, že model je vložený do systému, ktorý dokáže koordinovať úlohy, nástroje a cesty eskalácie.

Nahlásená voľba návrhu je praktická: nechajte menší alebo špecializovanejší model zvládnuť väčšinu rutinnej práce bezpečnostných agentov a potom eskalujte ťažšie prípady na väčšie modely. To sa podobá tomu, ako už vyspelé inžinierske tímy premýšľajú o infraštruktúre. Nie každá požiadavka potrebuje najdrahší model s najvyššou latenciou. Niektoré práce ťažia z úzkeho modelu, ktorý rozumie doméne, riadi sa obmedzeným pracovným tokom a dá sa riadiť prísnejšie.

Významný je aj prístupový model spoločnosti Microsoft. Obmedzením MAI-Cyber-1-Flash prostredníctvom MDASH na overených obrancov spoločnosť uznáva dvojaký charakter objavovania a nápravy zraniteľnosti. Rovnaké schopnosti, ktoré pomáhajú defenzívnemu tímu pri triedení expozícií, môžu pomôcť útočníkovi, ak je uvoľnený bez kontroly. To robí dohľad nad oprávnenosťou a používaním súčasťou architektúry produktu, nie samostatnou dodatočnou úvahou o dodržiavaní pravidiel.

Prečo by sa vývojári a bezpečnostné tímy mali zaujímať

Pre bezpečnostné tímy je najjasnejším potenciálnym prínosom špecializácia. Zisťovanie zraniteľnosti, analýza využiteľnosti, usmerňovanie opráv a plánovanie nápravy vyžadujú kontext, ktorý všeobecné modely nemusia konzistentne zvládať. Špecifický kybernetický model vložený do pracovného postupu obrancu by mohol znížiť potrebu budovania každej výzvy, syntaktického analyzátora a politiky nástrojov od nuly.

Pre vývojárov, ktorí vytvárajú interné systémy AI, spustenie posilňuje návrhový vzor, ​​ktorý je čoraz ťažšie ignorovať: smerovanie úloh podľa rizika, domény a ceny. Žiadosť o triedenie zraniteľnosti nie je to isté ako marketingový súhrn. Agent na nápravu s prístupom k úložiskám, skenerom, lístkom a konfigurácii cloudu potrebuje viac zábradlí ako iba textový asistent. V tomto prostredí sa výber modelu stáva rozhodnutím o politike, nie preferenciou nastavenou individuálnym používateľom.

To je miesto, kde sa brána AI API stáva relevantnou. Tímy, ktoré už smerujú cez viacero modelov z hľadiska nákladov, latencie alebo dostupnosti, môžu teraz potrebovať hlbšiu vrstvu zabezpečenia: ktoré modely dokážu spracovať údaje o zraniteľnosti, ktorí používatelia môžu vyvolať nástroje, kedy musí byť požiadavka eskalovaná a ako sa každý krok zaznamenáva. Praktické prepojenie Model Gate je v tejto vrstve správy – zjednotená fakturácia, správa kľúčov API, analytika používania a tímové kontroly sú užitočnejšie, keď prístup k modelu už nie je plochý a vzájomne zameniteľný.

To isté platí pre agentúry a partnerov, ktorí budujú služby nad infraštruktúrou AI. Zákazník môže chcieť automatizovanú kontrolu kódu alebo infraštruktúry, ale poskytovateľ sa musí rozhodnúť, ktoré bezpečnostné pracovné postupy vyžadujú overený prístup, ktoré protokoly sa uchovávajú a ktoré náhradné modely sú povolené. Špecializované kybernetické modely robia túto konverzáciu konkrétnejšou.

Nároky na náklady si vyžadujú overenie

Microsoft povedal, že MAI-Cyber-1-Flash môže poskytnúť výkon svetovej triedy za približne polovičné náklady ako popredné modely, podľa pokrytia oznámenia. Ide o nárok súvisiaci s obstarávaním, ale zatiaľ by sa s ním nemalo zaobchádzať ako s vyrovnaným dôkazom. Porovnania nákladov a výkonu uvádzané predajcom závisia od výberu benchmarku, mixu pracovnej záťaže, rýchleho návrhu, použitia nástrojov a riešenia porúch.

Spoľahlivejšie informácie sú architektonické, nie číselné.Microsoft otvorene opisuje stratégiu smerovania modelov v systéme bezpečnostných agentov: na väčšinu práce používajte špecializovaný model a pre výnimočné prípady si ponechajte väčšie modely. Ak tento prístup funguje dobre v reálnych prostrediach, mohlo by to prinútiť podnikové tímy k jednoznačnejšej optimalizácii nákladov. Namiesto toho, aby sa tímy pýtali, či je jeden model „najlepší“, budú sa pýtať, ktorý model je dostatočne dobrý pre každý krok, koľko to stojí a aké riziká prináša.

Tento posun je dôležitý pre rozpočty. Automatizácia zabezpečenia môže generovať veľké objemy požiadaviek pri pripojení k skenerom, úložiskám kódov, lístkom, kanálom CI a cloudovej telemetrii. Niekoľko ušetrených centov na krok môže mať význam v rozsahu, ale iba v prípade, ak presnosť, sledovateľnosť a bezpečnosť vydržia vo výrobných podmienkach.

Čo zostáva neisté

Niekoľko detailov ešte potrebuje potvrdenie, kým budú môcť podniky prijať rozhodnutia o smerovaní alebo obstarávaní. Načasovanie verejnej ukážky sa môže zmeniť a kritériá oprávnenosti pre overených obrancov môžu obmedziť, kto môže model otestovať skôr. Nie je tiež jasné, koľko z MAI-Cyber-1-Flash bude vystavených ako samostatne adresovateľný model v porovnaní s tým, že zostane pevne viazaný na pracovné postupy MDASH.

Nezávislé hodnotenie je ďalšou chýbajúcou súčasťou. Bezpečnostné benchmarky môžu byť ťažko interpretovateľné, pretože práca so zraniteľnosťou v reálnom svete závisí od chaotických úložísk, neúplných protokolov, falošných poplachov, zásad špecifických pre organizáciu a povolení nástrojov. Model, ktorý funguje dobre v kontrolovanom benchmarku, môže stále potrebovať rozsiahle ochranné zábradlia, než bude môcť bezpečne navrhnúť opravy alebo spustiť akcie v produkcii.

Aj s týmito výhradami je oznámenie dôležité. Ukazuje, že hlavný predajca AI zaobchádza s kybernetickou bezpečnosťou ako so špecializovanou operačnou doménou, a nie len s ďalšou rýchlou kategóriou. Pre podniky je ponaučenie pripraviť sa na modelový ekosystém, v ktorom sú prístupové práva, smerovanie úloh, audit traily a záložné politiky ústrednými prvkami bezpečnostných pracovných postupov AI. Víťazmi nebudú len tímy s najschopnejšími modelmi, ale tímy, ktoré dokážu určiť, kedy a ako sa tieto modely použijú.