Spoločnosť Microsoft predstavila MAI-Cyber-1-Flash, model umelej inteligencie zameraný na kybernetickú bezpečnosť, ktorý je zabudovaný do MDASH, multiagentového systému spoločnosti na identifikáciu a nápravu zraniteľnosti. Uvedenie na trh nie je len ďalším modelom pridaným do katalógu. Je to znak toho, že bezpečnostná umelá inteligencia smeruje k systémom špecifickým pre doménu, riadeniu prístupu a smerovaniu úloh, a nie k jedinému univerzálnemu modelu, ktorý zvláda každý krok pracovného toku.

Podľa spoločnosti Microsoft je MAI-Cyber-1-Flash navrhnutý tak, aby vykonával až 90 % úloh MDASH, zatiaľ čo väčšie modely sú vyhradené pre mimoriadne zložité prípady. Prístup je obmedzený na overených obrancov prostredníctvom MDASH. Spoločnosť Axios uviedla, že verejná ukážka by sa mala začať nasledujúci týždeň a že Microsoft plánuje rozšíriť Project Perception o viac špecializovaných bezpečnostných agentov.

Bezprostredným publikom sú bezpečnostné tímy, ale dôsledky sú širšie pre každého, kto vytvára automatizáciu AI okolo citlivých nástrojov. Ak práca v oblasti kybernetickej bezpečnosti čoraz viac závisí od špecializovaných agentov, potom sa operačná vrstva okolo týchto agentov – autentifikácia, protokolovanie auditu, záložný model, povolenia, kontrola nákladov a sledovateľnosť incidentov – stáva rovnako dôležitá ako kvalita modelu.

Čo sa zmenilo

Microsoft umiestňuje MAI-Cyber-1-Flash ako účelovo vytvorený kybernetický model, a nie ako 12} samostatný koncový robot MDASH API. MDASH je opísaný ako pracovný postup s viacerými agentmi na vyhľadávanie a nápravu slabých miest, čo znamená, že model je vložený do systému, ktorý dokáže koordinovať úlohy, nástroje a cesty eskalácie.

Nahlásená voľba návrhu je praktická: ponechajte menší alebo špecializovanejší model, ktorý zvládne väčšinu rutinnej práce bezpečnostných agentov, potom väčšie modely eskalujú ťažšie prípady. To sa podobá tomu, ako už vyspelé inžinierske tímy premýšľajú o infraštruktúre. Nie každá požiadavka potrebuje najdrahší model s najvyššou latenciou. Niektoré práce ťažia z úzkeho modelu, ktorý rozumie doméne, riadi sa obmedzeným pracovným tokom a dá sa riadiť prísnejšie.

Za zmienku stojí aj prístupový model spoločnosti Microsoft. Obmedzením MAI-Cyber-1-Flash prostredníctvom MDASH na overených obrancov spoločnosť uznáva dvojaký charakter odhaľovania a nápravy zraniteľnosti. Rovnaké schopnosti, ktoré pomáhajú defenzívnemu tímu pri triedení expozícií, môžu pomôcť útočníkovi, ak je uvoľnený bez kontroly. Vďaka tomu je dohľad nad oprávnenosťou a používaním súčasťou architektúry produktu, a nie samostatnou dodatočnou úvahou o dodržiavaní pravidiel.

Prečo by to vývojárom a bezpečnostným tímom malo záležať

Pre bezpečnostné tímy je najjasnejším potenciálnym prínosom špecializácia. Zisťovanie zraniteľnosti, analýza využiteľnosti, usmerňovanie opráv a plánovanie nápravy vyžadujú kontext, ktorý všeobecné modely nemusia konzistentne zvládať. Špecifický kybernetický model vložený do pracovného postupu obrancu by mohol znížiť potrebu budovania každej výzvy, syntaktického analyzátora a politiky nástrojov od nuly.

Pre vývojárov, ktorí vytvárajú interné systémy AI, uvedenie na trh posilňuje návrhový vzor, ​​ktorý sa stáva ťažko ignorovateľným: smerovanie úloh podľa rizika, domény a ceny. Žiadosť o triedenie zraniteľnosti nie je to isté ako marketingový súhrn. Agent na nápravu s prístupom k úložiskám, skenerom, lístkom a konfigurácii cloudu potrebuje viac zábradlí ako iba textový asistent. V tomto prostredí sa výber modelu stáva politickým rozhodnutím, nie preferenciou nastavenou individuálnym používateľom.

Práve tu sa brána AI API stáva relevantnou. Tímy, ktoré už smerujú naprieč viacerými modelmi z hľadiska nákladov, latencie alebo dostupnosti, môžu teraz potrebovať hlbšiu vrstvu zabezpečenia: ktoré modely dokážu spracovať údaje o zraniteľnosti, ktorí používatelia môžu vyvolať nástroje, kedy musí byť požiadavka eskalovaná a ako sa každý krok zaznamenáva. Praktické prepojenie Model Gate je v tejto vrstve správy – zjednotená fakturácia, API-kľúčová správa, analytika používania a tímové kontroly sú užitočnejšie, keď prístup k modelu už nie je plochý a vzájomne zameniteľný.

To isté platí pre agentúry a partnerov, ktorí budujú služby nad infraštruktúrou AI.Zákazník môže chcieť automatizovanú kontrolu kódu alebo infraštruktúry, ale poskytovateľ sa musí rozhodnúť, ktoré bezpečnostné pracovné postupy vyžadujú overený prístup, ktoré protokoly sa uchovávajú a ktoré náhradné modely sú povolené. Špecializované kybernetické modely robia túto konverzáciu konkrétnejšou.

Nároky na náklady si vyžadujú overenie

Microsoft povedal, že MAI-Cyber-1-Flash môže poskytnúť výkon svetovej triedy za približne polovičné náklady v porovnaní s poprednými modelmi, podľa pokrytia oznámenia. Ide o nárok súvisiaci s obstarávaním, ale zatiaľ by sa s ním nemalo zaobchádzať ako s vyrovnaným dôkazom. Porovnania nákladov a výkonu uvádzané predajcom závisia od výberu štandardu, mixu pracovnej záťaže, rýchleho návrhu, použitia nástrojov a riešenia porúch.

Spoľahlivejšie informácie sú architektonické, nie číselné. Microsoft otvorene opisuje stratégiu smerovania modelov v systéme bezpečnostných agentov: na väčšinu práce používajte špecializovaný model a pre výnimočné prípady si ponechajte väčšie modely. Ak tento prístup funguje dobre v reálnych prostrediach, mohlo by to prinútiť podnikové tímy k jednoznačnejšej optimalizácii nákladov. Namiesto toho, aby sa tímy pýtali, či je jeden model „najlepší“, sa budú pýtať, ktorý model je dostatočne dobrý pre každý krok, koľko to stojí a aké riziká prináša.

Tento posun je dôležitý pre rozpočty. Automatizácia zabezpečenia môže generovať veľké objemy požiadaviek pri pripojení k skenerom, úložiskám kódov, lístkom, kanálom CI a cloudovej telemetrii. Niekoľko ušetrených centov na krok môže mať význam vo veľkom rozsahu, ale iba v prípade, ak presnosť, sledovateľnosť a bezpečnosť vydržia vo výrobných podmienkach.

Čo zostáva neisté

Skôr ako budú môcť podniky prijať rozhodnutia o smerovaní alebo obstarávaní, je potrebné potvrdiť niekoľko podrobností. Načasovanie verejnej ukážky sa môže zmeniť a kritériá oprávnenosti pre overených obrancov môžu obmedziť, kto môže model otestovať skôr. Nie je tiež jasné, aká veľká časť MAI-Cyber-1-Flash bude vystavená ako samostatne adresovateľný model v porovnaní s tým, že zostane pevne viazaná na pracovné postupy MDASH.

Nezávislé hodnotenie je ďalšou chýbajúcou časťou. Bezpečnostné benchmarky môžu byť ťažko interpretovateľné, pretože práca so zraniteľnosťou v reálnom svete závisí od chaotických úložísk, neúplných protokolov, falošných poplachov, zásad špecifických pre organizáciu a povolení nástrojov. Model, ktorý funguje dobre v kontrolovanom benchmarku, môže stále potrebovať rozsiahle ochranné zábradlia, kým bude môcť bezpečne navrhnúť opravy alebo spustiť akcie v produkcii.

Aj s týmito upozorneniami je oznámenie dôležité. Ukazuje, že hlavný predajca AI zaobchádza s kybernetickou bezpečnosťou ako so špecializovanou operačnou doménou, a nie len s ďalšou rýchlou kategóriou. Pre podniky je ponaučenie pripraviť sa na modelový ekosystém, v ktorom sú prístupové práva, smerovanie úloh, auditné záznamy a záložné politiky ústrednými prvkami pracovných postupov zabezpečenia AI. Víťazmi nebudú len tímy s najschopnejšími modelmi, ale tímy, ktoré dokážu určiť, kedy a ako sa tieto modely použijú.