Zákon EU o umělé inteligenci se posunul od plánovacího cvičení k provozní lhůtě pro klíčový úsek dodržování předpisů AI. Od 2. srpna 2026 začaly podle pokynů Evropské komise platit povinnosti transparentnosti pro poskytovatele a implementátory některých systémů umělé inteligence.
Pravidla se soustředí na praktickou otázku: může člověk poznat, kdy interaguje s umělou inteligencí nebo kdy byl obsah generován či manipulován umělou inteligencí? Pro firmy vytvářející chatboty, hlasové agenty, nástroje pro generování obsahu, produkty pro úpravu obrázků, systémy syntetických médií a automatizované pracovní postupy zákaznických služeb má tato otázka nyní právní důsledky a důsledky pro návrh produktu.
Stejné datum je také důležité pro širší režim zákona o umělé inteligenci. V materiálech Komise se uvádí, že od 2. srpna 2026 platí plné vynucovací pravomoci Komise pro všeobecné závazky týkající se modelů umělé inteligence. To neznamená, že každá aplikace podléhá stejným požadavkům, ale znamená to, že programy umělé inteligence pro EU již nemohou považovat kontroly transparentnosti za budoucí práci.
Co se změnilo 2. srpna
Článek 50 zákona o umělé inteligenci se vztahuje na povinnosti transparentnosti pro některé systémy umělé inteligence. Obecně řečeno, povinnosti mají zajistit, aby byli lidé informováni, když komunikují se systémem umělé inteligence a když byl zvuk, obrázky, video nebo textový obsah uměle generován nebo s nimi manipulováno způsoby, na které se vztahuje nařízení.
Pro mnoho týmů se změna netýká ani architektury modelu, ale spíše rozhraní, metadat, protokolování a správy. Konverzační asistent může potřebovat jasné sdělení, že uživatel komunikuje s AI. Nástroj, který generuje nebo materiálně upravuje média, může potřebovat štítky nebo jiné signály, díky nimž bude syntetický nebo manipulovaný výstup rozpoznatelný. Podnik, který nasazuje AI do pracovních postupů orientovaných na zákazníky, může potřebovat záznamy ukazující, které systémy byly použity, kde se objevovaly informace a jak byly řešeny výjimky.
Rozsah není pro každou společnost stejný. Zákon o AI rozlišuje mezi rolemi, jako je poskytovatel, implementátor, dovozce, distributor a následný modifikátor. Společnost, která vytváří a prodává produkt AI, může čelit jiným povinnostem než společnost, která v rámci interního pracovního postupu používá model třetí strany. Prodejce, systémový integrátor nebo agentura mohou také zastávat více než jednu roli v závislosti na tom, jak systém zabalí a upraví.
Problém s mapováním rolí je nyní jedním z prvních úkolů v oblasti dodržování předpisů pro týmy AI sloužící uživatelům z EU.
Proč je to důležité pro vývojáře a produktové týmy
Okamžitý technický dopad je ten, že transparentnost již nelze připevnit na stránku zásad. Musí se objevit uvnitř cesty produktu, kde dochází k interakci s umělou inteligencí nebo generovanému obsahu.
Vývojáři možná budou muset přidat komponenty zveřejňování do rozhraní chatu, předávání agentů, hlasových zážitků a editorů obsahu. Produktové týmy se možná budou muset rozhodnout, kdy jsou štítky trvalé, kdy se zobrazují jednou a jak se chovají v exportech, snímcích obrazovky, přepisech, stažených médiích a odpovědích API. Týmy pro dodržování předpisů budou potřebovat důkaz, že tyto kontroly byly uplatňovány konzistentně.
Je zde také problém se směrováním a pozorovatelností. Moderní produkty umělé inteligence zřídka volají jeden model jedinou cestou. Pracovní postup zákaznických služeb může používat jeden model pro detekci záměru, jiný pro návrh odpovědi, model řeči pro přepis a obrazový model pro přílohy. Některé hovory mohou vytvářet uživatelsky viditelný obsah. Ostatní mohou kontext pouze klasifikovat, moderovat, sumarizovat nebo načítat.
Na tomto rozlišení záleží. Týmy potřebují vědět, které modelové výzvy mohou vyvolat povinnosti transparentnosti a které jsou čistě interní. Bez spolehlivého soupisu modelů, koncových bodů, výzev a typů výstupů se dodržování požadavků na zveřejnění stává jen dohady.
To je místo, kde se infrastruktura AI API stává relevantní. Vícemodelové rozhraní API nebo brána AI API může centralizovat metadata poskytovatele modelu, správu klíčů API, analýzy využití a protokoly auditu napříč různými backendy. U platformy, jako je Model Gate, praktické spojení nespočívá v tom, že brána automaticky řeší soulad s AI Act. Jde o to, že centralizované směrování a protokolování může týmům pomoci odpovědět na základní otázky správy: jaký model byl použit, která aplikace, pro který tým, v jakém čase a pro jakou třídu výstupu.
Kdo je nejvíce ovlivněn
Nejexponovanějšími skupinami jsou podniky, které AI přímo před uživatele z EU. To zahrnuje společnosti SaaS s asistenty AI, podpůrnými roboty, obchodními zástupci, vzdělávacími nástroji, náborovými nástroji, syntetickými mediálními produkty a platformami pro automatizaci marketingu.Agentury a integrátoři vytvářející systémy umělé inteligence pro klienty musí také věnovat pozornost, protože odpovědnost může záviset na tom, kdo určuje účel systému, kdo jej nasazuje a zda je systém modifikován navazujícím způsobem.
Podniky, které interně používají umělou inteligenci, by rovněž neměly tento termín ignorovat. Interní nástroje mohou stále vytvářet otázky týkající se souladu a pracovněprávních předpisů, zejména když zaměstnanci komunikují se systémy AI nebo když generovaný obsah opouští organizaci. Riziko je vyšší, když interní automatizace vytváří zákaznickou komunikaci, právní návrhy, HR materiály, finanční zprávy nebo veřejně přístupná média.
Poskytovatelé modelů a tvůrci aplikací také čelí výzvě koordinace. Poskytovatelé mohou dodat dokumentaci modelu, výstupní metadata, možnosti vodoznaků nebo pokyny k zásadám. Zavaděči stále musí implementovat informace pro uživatele a provozní kontroly ve svých vlastních produktech. Pokud firma využívá několik poskytovatelů, nekonzistentní metadata a chování modelu to mohou ztížit.
Praktické kroky pro týmy AI
Prvním krokem je inventář. Týmy by měly identifikovat každý systém umělé inteligence používaný v produktech a pracovních postupech pro EU a poté klasifikovat, zda každý systém přímo interaguje s lidmi, generuje obsah, manipuluje s obsahem nebo podporuje pouze interní zpracování.
Zadruhé by týmy měly zmapovat odpovědnost. Jsou poskytovatelem systému umělé inteligence, implementátorem, distributorem, dovozcem nebo následným modifikátorem? Odpověď se může lišit podle produktové řady nebo zapojení klienta.
Za třetí, zveřejnění by mělo být navrženo jako kontrola produktu, nikoli pouze jako právní upozornění. Uživatelé by měli vidět jasné signály v místě interakce nebo spotřeby. Vygenerovaný a zpracovaný obsah by měl nést vhodné štítky nebo doprovodný kontext, pokud je to vyžadováno. Exportovaný obsah si zaslouží zvláštní pozornost, protože štítky mohou zmizet, když text, obrázky, zvuk nebo video opustí původní aplikaci.
Za čtvrté, protokoly musí podporovat pozdější kontrolu. Minimálně by týmy měly být schopny rekonstruovat, o kterou aplikaci, model, skupinu uživatelů a výstupní kategorii šlo. U společností využívajících více poskytovatelů modelů může sjednocená analýza využití AI snížit slepá místa. Oddělené klíče API podle produktu, prostředí, zákazníka nebo týmu mohou také usnadnit audity a omezit vystavení, pokud je pracovní postup nesprávně nakonfigurován.
V neposlední řadě by zadávání zakázek mělo zahrnovat otázky transparentnosti. Před přidáním dodavatele modelu nebo automatizace by se týmy měly zeptat, jaká metadata, dokumentace, podpora štítků a háčky pro protokolování jsou k dispozici. Nejlevnější model není vždy nejlevnější variantou, pokud vytváří manuální práci na dodržování předpisů.
Co zůstává nejisté
Široký směr dodržování předpisů je jasný, ale konkrétní povinnosti stále závisí na faktech každého nasazení. Stejný model lze použít v nízkorizikovém interním sumarizačním nástroji, chatbotu zaměřeném na zákazníka nebo v produktu syntetických médií. Každý případ použití může přinést různé povinnosti týkající se transparentnosti.
V okrajových případech budou také otázky týkající se výkladu: AI podporované úpravy versus obsah generovaný AI, krátkodobé interakce agentů, smíšené pracovní postupy mezi lidmi a AI a systémy zabudované do platforem třetích stran. Společnosti by měly očekávat, že se pokyny, postupy prosazování a tržní normy budou vyvíjet.
I přes tyto nejistoty je provozní poselství jednoduché. Týmy umělé inteligence směřující do EU musí zviditelnit zapojení umělé inteligence tam, kde to vyžaduje zákon, a potřebují záznamy ukazující, jak je tato viditelnost vynucována. Datum 2. srpna mění transparentnost z položky plánu na požadavek živého řízení.