Evropská unie učinila rozhodný krok v regulaci umělé inteligence. Od této neděle, 2. srpna 2026, vstoupí v platnost povinnosti transparentnosti stanovené v evropském nařízení o umělé inteligenci (nařízení o AI) . Tato průkopnická legislativa si klade za cíl vyvážit technologické inovace s ochranou základních práv. Občané budou od nynějška vědět, kdy komunikují se strojem nebo kdy byl obsah generován či manipulován pomocí umělé inteligence.
Implementace této fáze představuje významný milník, ačkoli celý časový harmonogram sahá do roku 2028. Podniky a veřejná správa čelí velké organizační výzvě , protože musí nejen splňovat nové požadavky, ale také identifikovat a klasifikovat všechny systémy umělé inteligence, které používají ve svém každodenním provozu. Španělsko navíc v současné době připravuje vlastní legislativu s cílem přizpůsobit evropský rámec specifickým podmínkám země.
Transparentnost a označování obsahu
Jednou z nejvýraznějších změn pro uživatele je požadavek, aby virtuální asistenti a chatboti jasně informovali uživatele, že interagují s umělou inteligencí . To se týká nástrojů jako ChatGPT, Gemini a Claude, ale i jednodušších systémů, jako jsou konverzační FAQ. Toto opatření si klade za cíl předcházet nejasnostem a posílit důvěru v digitální služby.
Obsah generovaný nebo upravený pomocí umělé inteligence – obrázky, videa, zvuk nebo text – musí navíc obsahovat strojově čitelné značky, aby bylo možné odhalit jeho umělý původ. Takzvané deepfaky musí být identifikovány , s výjimkou beletrie, umění nebo satiry. Evropská komise objasňuje, že jednoduché opravy pravopisu se nepovažují za dostatečnou lidskou kontrolu k osvobození obsahu od tohoto požadavku.
V případě obsahu týkajícího se záležitostí veřejného zájmu – politiky, volebních procesů, zdraví, spravedlnosti nebo životního prostředí – musí vydavatelé uvést, zda byl vytvořen umělou inteligencí a neprošel lidskou redakční kontrolou . V opačném případě odpovědnost nese vydavatel. Tento požadavek má za cíl bojovat proti dezinformacím v době, kdy je stále obtížnější rozlišit mezi tím, co je skutečné a co je umělé.
Zákazy a sankce
Nařízení zavádí přísný sankční režim. Nejzávažnější porušení, jako je používání zakázaných systémů umělé inteligence, mohou vést k pokutám až do výše 35 milionů EUR nebo 7 % celosvětového ročního obratu , podle toho, která částka je vyšší. Za porušení povinností týkajících se transparentnosti dosahují pokuty 15 milionů EUR nebo 3 % obratu. V případě malých a středních podniků mohou orgány zvážit proporcionalitu.
Od 2. prosince 2026 bude zakázáno vytvářet sexualizované obrázky pomocí umělé inteligence bez souhlasu , stejně jako jakýkoli nástroj určený k generování materiálu zobrazujícího sexuální zneužívání dětí. Toto opatření bylo zavedeno po kontroverzi kolem obrázků generovaných pomocí nástroje Grok ze sociální sítě X. Zakázány budou také systémy sociálního bodování, manipulace se zranitelnými osobami a biometrická identifikace v reálném čase na veřejných prostranstvích, s výjimkou případů, kdy k tomu existuje soudní povolení.
Evropský úřad pro umělou inteligenci se sídlem v Bruselu má nyní pravomoc dohlížet na modely umělé inteligence pro všeobecné použití, jako jsou ty, které jsou základem řady aplikací. Může si vyžádat informace, přistupovat k systémům, nařídit nápravná opatření a dokonce omezit jejich dostupnost, pokud zjistí nesoulad s předpisy. Tento dohled je sdílen s vnitrostátními orgány, jako je španělský úřad pro dohled nad umělou inteligencí (AESIA).
Adaptace firem
Jednou z největších výzev pro organizace je identifikace všech systémů umělé inteligence, které používají, včetně těch, které si zaměstnanci osvojili sami – tzv. „stínové umělé inteligence“. Podle zprávy konzultační firmy Entelgy již téměř 70 % velkých společností zahájilo nějaký proces adaptace, ale mnohým stále chybí kompletní inventář jejich nástrojů.
Odborníci se shodují, že prvním krokem je zhodnotit a klasifikovat systémy podle úrovně jejich rizika : od systémů s minimálním rizikem, jako je například jednoduchý chatbot, až po systémy s vysokým rizikem, jako jsou systémy používané při výběru personálu, hodnocení úvěruschopnosti nebo lékařské diagnóze. Pro ty druhé se povinnosti budou uplatňovat od prosince 2027, ale analýza musí začít již nyní.
Nejrozšířenějším opatřením je školení zaměstnanců v odpovědném používání umělé inteligence, následované vytvářením správních výborů a interních politik. Odborníci varují , že pouhá důvěra v poskytovatele technologií nestačí , protože riziko závisí také na konkrétním použití nástroje. Například použití systému umělé inteligence k filtrování životopisů z něj může udělat vysoce rizikovou aplikaci, bez ohledu na to, kdo ji vyvinul.
Giovanni Alessandrello, generální ředitel společnosti BIP Iberia, zdůrazňuje, že k dodržování předpisů je třeba přistupovat jako ke strategickému projektu, nikoli pouze technologickému . Společnosti si musí vyvinout vlastní kritéria, stanovit jasné zásady a vybavit své manažerské týmy mechanismy řízení. „Dodržování předpisů má svou cenu, ale i neschopnost řídit umělou inteligenci má svou cenu a v mnoha případech může být mnohem vyšší,“ zdůrazňuje.
Španělský zákon o umělé inteligenci
Souběžně s evropským nařízením španělská vláda prosazuje návrh zákona o řádném používání a správě umělé inteligence, který je v současné době v parlamentním projednávání. Tento návrh zákona nevytváří samostatný režim, ale spíše přizpůsobuje uplatňování zákona o umělé inteligenci španělskému právnímu systému a definuje příslušné orgány, systém dohledu a sankční postup.
Mezi nejvýznamnější opatření budoucího španělského zákona patří výslovný zákaz generování sexuálních deepfakes, což je pozměňovací návrh, který se Španělsku podařilo začlenit do evropského textu po případu dívek z Almendralejo. Socialistická europoslankyně Laura Ballarín argumentovala, že legislativa bude chránit zejména nezletilé osoby a ženy , zatímco poslanec za PP Adrián Vázquez přirovnal nařízení k používání nože: „Nezakazujeme nože, ale spíše jejich používání k napadení.“
Členské státy mají na přizpůsobení svých vnitrostátních právních předpisů čas do září 2026. Španělsko již podniklo první kroky schválením návrhu zákona v květnu a konečná verze zákona by měla být hotová v nadcházejících měsících. Mezitím je evropské nařízení přímo použitelné, takže společnosti by neměly čekat, až se s ním začnou shodovat vnitrostátní právní předpisy.
Implementace zákona o umělé inteligenci bude pokračovat v etapách až do roku 2028. Nové zákazy sexuálního obsahu bez souhlasu vstoupí v platnost 2. prosince 2026, zákazy týkající se vysoce rizikových systémů budou následovat v prosinci 2027. Konečně, v srpnu 2028, budou uplatňována ustanovení o umělé inteligenci integrované do produktů, jako jsou zdravotnické prostředky, vozidla a hračky. Evropa je tak v popředí regulace umělé inteligence s modelem, který se snaží spojit inovace s ochranou práv občanů, ačkoli skutečnou výzvou bude udržet krok s technologií, která se vyvíjí mnohem rychleji než legislativa.
