2. 8. 2026, Praha
Od 2. srpna 2026 se v Evropské unii začala uplatňovat nová pravidla transparentnosti podle článku 50 AI Actu. Jejich cíl je poměrně jednoduchý: člověk by měl mít možnost poznat, kdy komunikuje s umělou inteligencí nebo kdy se dívá na synteticky vytvořený či zmanipulovaný obsah.
Nejde přitom o snahu AI stigmatizovat ani o povinnost dávat varovnou nálepku na každý dokument, obrázek nebo prezentaci, při jejichž tvorbě umělá inteligence nějakým způsobem pomohla.
Hlavním důvodem nové úpravy jsou především deepfaky a rostoucí schopnost generativní AI vytvářet obsah, který je prakticky nerozeznatelný od reality.
Dvě vrstvy transparentnosti
AI Act v zásadě pracuje se dvěma různými úrovněmi označování.
Technické označení pro stroje
Poskytovatelé systémů generativní AI musí zajistit, aby bylo možné obsah vytvořený nebo upravený pomocí AI strojově rozpoznat.
Může jít například o metadata, watermarking nebo jiné technické mechanismy, díky nimž může další systém, platforma nebo specializovaný nástroj zjistit, že konkrétní obrázek, zvuk, video nebo jiný obsah vznikl s využitím AI.
Je to důležité právě ve chvíli, kdy se syntetický obsah začne masově šířit internetem a původní kontext se ztratí.
Viditelné označení pro lidi
Druhá vrstva se týká přímo nás jako uživatelů.
Povinnost transparentnosti se vztahuje především na deepfaky, tedy obrazový, zvukový nebo video obsah vytvořený či manipulovaný pomocí AI tak, že může působit jako autentický.
Pravidla se vztahují také na některé AI generované či upravené texty publikované za účelem informování veřejnosti o záležitostech veřejného zájmu. I zde ale existují výjimky, například pokud obsah prošel lidskou kontrolou nebo za něj někdo nese redakční odpovědnost.
Stejně tak pravidla počítají s tím, že běžné pomocné úpravy nebo standardní editace nemusí automaticky znamenat povinnost viditelného označení.
Proč jsou deepfaky takový problém?
Právě zde podle mě leží skutečný význam nových pravidel. Ještě před několika lety bylo často na první pohled poznat, že fotografie nebo video vytvořila umělá inteligence. Dnes už to mnohdy neplatí.
AI dokáže velmi věrohodně vytvořit video konkrétního člověka, napodobit jeho hlas nebo vytvořit fotografii události, která se nikdy nestala.
Takový obsah může být skvělým kreativním nástrojem. Stejná technologie ale může být zneužita k podvodům, vydávání se za jinou osobu, manipulaci veřejné debaty nebo třeba ovlivňování voleb. A právě proto je transparentnost důležitá.
Nejde o to syntetický obsah zakazovat. Jde o to, aby se syntetický obsah nemohl jednoduše vydávat za realitu.
Nejde jen o obrázky a videa
Článek 50 řeší transparentnost AI i v dalších situacích. Uživatelé například mají být za určitých podmínek informováni, pokud komunikují přímo s AI systémem.
Pravidla se dotýkají také systémů pro rozpoznávání emocí nebo biometrickou kategorizaci. I zde je základní myšlenka stejná: člověk má vědět, že vůči němu takový systém funguje.
Guidelines a Code of Practice
Samotný text AI Actu samozřejmě nemůže vyřešit všechny praktické situace, které mohou při používání generativní AI nastat. Evropská komise proto k článku 50 vydala také guidelines, které podrobněji vysvětlují rozsah jednotlivých povinností, výjimky a konkrétní situace z praxe.
Vedle toho vznikl také dobrovolný Code of Practice on Transparency of AI-Generated Content. Ten má poskytovatelům a uživatelům AI systémů nabídnout praktičtější cestu, jak nové požadavky zavést do praxe a prokazovat jejich plnění.
Důležité je rozlišovat dvě věci: dobrovolný je Code of Practice. Samotné zákonné povinnosti podle AI Actu dobrovolné nejsou.
Pro některé systémy uvedené na trh před 2. srpnem 2026 navíc platí u technického označování omezené přechodné období do 2. prosince 2026.
AI nemá být stigmatizovaná. Má být transparentní.
To je podle mě nejdůležitější pointa celé změny.
Evropa by neměla reagovat na rychlý rozvoj generativní AI tím, že bude technologii démonizovat nebo zbytečně komplikovat její používání. Zároveň ale potřebujeme chránit jednu z nejcennějších věcí v digitálním prostoru: důvěru v to, co vidíme a slyšíme.
AI obsah proto nemá být stigmatizovaný.
Má být férově přiznaný obzvlášť tam, kde může ovlivnit důvěru lidí, veřejnou debatu nebo demokratické rozhodování.
Právě o nových pravidlech transparentnosti a problematice deepfaků jsem mluvil také v reportáži České televize v Událostech.
Díky České televizi za prostor věnovat se tomuto důležitému tématu.
