Zákon EÚ o umelej inteligencii sa presunul z plánovania na prevádzkový termín pre kľúčovú časť súladu s umelou inteligenciou. Od 2. augusta 2026 začali podľa pokynov Európskej komisie pre poskytovateľov a nasadzovateľov určitých systémov umelej inteligencie platiť povinnosti týkajúce sa transparentnosti.

Pravidlá sa sústreďujú na praktickú otázku: môže osoba zistiť, kedy interaguje s umelou inteligenciou alebo kedy obsah vygenerovala alebo s ňou manipulovala? Pre firmy, ktoré vytvárajú chatboty, hlasových agentov, nástroje na generovanie obsahu, produkty na úpravu obrázkov, systémy syntetických médií a automatizované pracovné postupy zákazníckych služieb, má táto otázka teraz právne dôsledky a dôsledky na dizajn produktov.

Ten istý dátum je dôležitý aj pre širší režim zákona o umelej inteligencii. V materiáloch Komisie sa uvádza, že od 2. augusta 2026 platia plné právomoci Komisie na presadzovanie povinností týkajúcich sa všeobecných modelov umelej inteligencie. To neznamená, že každá aplikácia podlieha rovnakým požiadavkám, no znamená to, že programy umelej inteligencie pre EÚ už nemôžu považovať kontroly transparentnosti za prácu budúcnosti.

Čo sa zmenilo 2. augusta

Článok 50 zákona o umelej inteligencii sa vzťahuje na povinnosti týkajúce sa transparentnosti pre určité systémy umelej inteligencie. Vo všeobecnosti majú povinnosti zabezpečiť, aby boli ľudia informovaní, keď interagujú so systémom umelej inteligencie a keď bol zvukový, obrazový, video alebo textový obsah umelo generovaný alebo s ním manipulovaný spôsobmi, na ktoré sa vzťahuje toto nariadenie.

Pre mnohé tímy sa zmena netýka skôr architektúry modelu, ale skôr rozhrania, metadát, protokolovania a správy. Konverzačný asistent môže potrebovať jasné informácie o tom, že používateľ interaguje s AI. Nástroj, ktorý generuje alebo materiálne upravuje médiá, môže potrebovať štítky alebo iné signály, vďaka ktorým bude syntetický alebo manipulovaný výstup rozpoznateľný. Podnik nasadzujúci AI do pracovných postupov orientovaných na zákazníka môže potrebovať záznamy ukazujúce, ktoré systémy boli použité, kde sa objavili zverejnenia a ako sa zaobchádzalo s výnimkami.

Rozsah nie je pre každú spoločnosť rovnaký. Zákon o AI rozlišuje medzi rolami, ako sú poskytovateľ, zavádzač, dovozca, distribútor a následný modifikátor. Spoločnosť, ktorá vytvára a predáva produkt AI, môže čeliť iným povinnostiam ako spoločnosť, ktorá v rámci interného pracovného toku používa model tretej strany. Predajca, systémový integrátor alebo agentúra môžu tiež zastávať viac ako jednu rolu v závislosti od toho, ako zabalí a upraví systém.

Problém s mapovaním rolí je teraz jednou z prvých úloh v oblasti dodržiavania súladu tímov AI slúžiacich používateľom v EÚ.

Prečo je to dôležité pre vývojárov a produktové tímy

Okamžitý technický vplyv je taký, že transparentnosť už nie je možné zaručiť. Musí sa objaviť v rámci cesty produktu, kde dochádza k interakcii AI alebo generovanému obsahu.

Vývojári možno budú musieť pridať komponenty sprístupnenia informácií do rozhraní četu, tokov odovzdávania agentom, hlasových skúseností a editorov obsahu. Produktové tímy sa možno budú musieť rozhodnúť, kedy sú štítky trvalé, kedy sa zobrazujú raz a ako sa správajú v exportoch, snímkach obrazovky, prepisoch, stiahnutých médiách a odpovediach API. Tímy pre dodržiavanie pravidiel budú potrebovať dôkazy, že tieto kontroly boli uplatňované dôsledne.

Existuje aj problém smerovania a pozorovateľnosti. Moderné produkty AI len zriedka volajú jeden model jedinou cestou. Pracovný postup zákazníckych služieb môže používať jeden model na detekciu zámerov, iný na navrhovanie odpovede, rečový model na prepis a obrazový model na prílohy. Niektoré hovory môžu vytvárať obsah viditeľný pre používateľa. Ostatní môžu iba klasifikovať, moderovať, sumarizovať alebo získavať kontext.

Na tomto rozdiele záleží. Tímy musia vedieť, ktoré modelové výzvy môžu vyvolať povinnosti transparentnosti a ktoré sú čisto interné. Bez spoľahlivého súpisu modelov, koncových bodov, výziev a typov výstupov sa dodržiavanie súladu s informáciami stáva hádaním.

To je miesto, kde sa infraštruktúra AI API stáva relevantnou. Viacmodelové rozhranie API alebo brána AI API môže centralizovať metadáta poskytovateľa modelov, správu kľúčov API, analýzy používania a protokoly auditu naprieč rôznymi backendmi. Pre platformu, ako je Model Gate, praktické spojenie nespočíva v tom, že brána automaticky rieši súlad so zákonom AI. Ide o to, že centralizované smerovanie a protokolovanie môže pomôcť tímom odpovedať na základné otázky týkajúce sa riadenia: ktorý model bol použitý, ktorou aplikáciou, pre ktorý tím, v akom čase a pre akú triedu výstupu.

Kto je najviac ovplyvnený

Najexponovanejšími skupinami sú podniky, ktoré umelú inteligenciu uvádzajú priamo pred používateľov z EÚ. To zahŕňa spoločnosti SaaS s asistentmi AI, podpornými robotmi, obchodnými zástupcami, vzdelávacími nástrojmi, náborovými nástrojmi, produktmi syntetických médií a platformami na automatizáciu marketingu.Agentúry a integrátori, ktorí budujú systémy AI pre klientov, musia tiež venovať pozornosť, pretože zodpovednosť môže závisieť od toho, kto určuje účel systému, kto ho nasadí a či je systém modifikovaný smerom nadol.

Podniky, ktoré interne používajú AI, by nemali tento termín ignorovať. Interné nástroje môžu stále vytvárať otázky týkajúce sa dodržiavania a pracovného práva, najmä keď zamestnanci interagujú so systémami AI alebo keď vytvorený obsah opustí organizáciu. Riziko je vyššie, keď interná automatizácia vytvára zákaznícku komunikáciu, právne návrhy, HR materiály, finančné správy alebo verejne prístupné médiá.

Poskytovatelia modelov a tvorcovia aplikácií tiež čelia problémom s koordináciou. Poskytovatelia môžu dodať modelovú dokumentáciu, výstupné metadáta, možnosti vodoznaku alebo usmernenia k politike. Nasadzovatelia stále musia implementovať sprístupnenie informácií pre používateľov a prevádzkové kontroly vo svojich vlastných produktoch. Ak firma využíva viacerých poskytovateľov, nekonzistentné metadáta a správanie modelov to môže sťažiť.

Praktické kroky pre tímy AI

Prvým krokom je inventár. Tímy by mali identifikovať každý systém umelej inteligencie používaný v produktoch a pracovných postupoch pre EÚ a potom klasifikovať, či každý systém interaguje priamo s ľuďmi, generuje obsah, manipuluje s obsahom alebo podporuje iba interné spracovanie.

Po druhé, tímy by mali zmapovať zodpovednosť. Sú poskytovateľom systému AI, nasadzovateľom, distribútorom, dovozcom alebo následným modifikátorom? Odpoveď sa môže líšiť podľa produktového radu alebo zapojenia klienta.

Po tretie, sprístupnenie informácií by malo byť navrhnuté ako kontrola produktu, nie len ako právne upozornenie. Používatelia by mali vidieť jasné signály v mieste interakcie alebo spotreby. Vygenerovaný a zmanipulovaný obsah by mal mať v prípade potreby vhodné označenia alebo sprievodný kontext. Exportovaný obsah si zaslúži osobitnú pozornosť, pretože štítky môžu zmiznúť, keď text, obrázky, zvuk alebo video opustia pôvodnú aplikáciu.

Po štvrté, protokoly musia podporovať neskoršiu kontrolu. Tímy by mali byť minimálne schopné rekonštruovať, o ktorú aplikáciu, model, skupinu používateľov a výstupnú kategóriu išlo. Spoločnostiam, ktoré využívajú viacerých poskytovateľov modelov, môže jednotná analýza používania AI znížiť slepé miesta. Oddelené kľúče API podľa produktu, prostredia, zákazníka alebo tímu môžu tiež zjednodušiť audity a obmedziť vystavenie, ak je pracovný tok nesprávne nakonfigurovaný.

V neposlednom rade by obstarávanie malo zahŕňať otázky transparentnosti. Pred pridaním dodávateľa modelu alebo automatizácie by sa tímy mali opýtať, aké metadáta, dokumentácia, podpora označovania a háčiky na zaznamenávanie sú k dispozícii. Model s najnižšími nákladmi nie je vždy najlacnejšou možnosťou, ak vytvára ručné dodržiavanie predpisov.

Čo zostáva neisté

Široký smer dodržiavania predpisov je jasný, ale konkrétne povinnosti stále závisia od faktov každého nasadenia. Rovnaký model možno použiť v nízkorizikovom internom sumarizačnom nástroji, chatbote pre zákazníka alebo v produkte syntetických médií. Každý prípad použitia môže priniesť rôzne povinnosti týkajúce sa transparentnosti.

V okrajových prípadoch sa budú vyskytovať aj otázky týkajúce sa výkladu: úpravy s pomocou AI verzus obsah generovaný AI, interakcie agentov s krátkou životnosťou, zmiešané pracovné postupy medzi ľuďmi a AI a systémy zabudované do platforiem tretích strán. Spoločnosti by mali očakávať, že usmernenia, postupy presadzovania a trhové normy sa budú vyvíjať.

Aj pri týchto neistotách je prevádzkové posolstvo jednoduché. Tímy umelej inteligencie v EÚ musia zviditeľniť zapojenie umelej inteligencie tam, kde to vyžaduje zákon, a potrebujú záznamy o tom, ako sa táto viditeľnosť presadzuje. Dátum 2. augusta mení transparentnosť z položky plánu na požiadavku živej správy.