EU AI Act a GDPR v AI systémech: Co musí firmy splnit při nasazování umělé inteligence

Rok 2026: Umělá inteligence dostává v Evropě pravidla

Zatímco ještě před pár lety firmy nasazovaly AI nástroje prakticky bez jakýchkoli specifických právních omezení, éra „divokého západu" v umělé inteligenci se v Evropské unii definitivně uzavřela. EU AI Act – první komplexní regulace umělé inteligence na světě – postupně nabírá na síle a spolu s dobře známým GDPR tvoří dvojici právních rámců, které musí respektovat každá firma pracující s AI a osobními údaji v Unii.

Klíčovým datem je 2. srpna 2026, kdy nabývá účinnosti většina pravidel AI Act včetně povinností pro vysoce rizikové AI systémy a pravidel transparentnosti. Je ale třeba dodat, že kolem časování některých povinností v průběhu roku 2026 probíhala jednání o jejich částečném odkladu – firmy proto dělají dobře, když si aktuální stav pravidelně ověřují přímo na stránkách Evropské komise.

Proč se vyplatí věnovat tomuto tématu pozornost už teď?

Soulad s AI Act a GDPR není jen administrativní povinnost – přímo ovlivňuje:

• Finanční riziko: Pokuty za nesoulad s AI Act mohou dosáhnout desítek milionů eur nebo procent z celosvětového obratu firmy.
• Důvěryhodnost vůči zákazníkům: Transparentní a zodpovědné nasazení AI se čím dál víc stává konkurenční výhodou, ne jen povinností.
• Rychlost uvádění produktů na trh: Firmy, které mají governance nastavené od začátku, dokážou nové AI funkce nasazovat rychleji a s menším rizikem.
• Mezinárodní expanzi: Soulad s evropskými pravidly je čím dál častěji referenčním standardem i mimo EU.

Pojďme se podívat na to, co přesně AI Act a GDPR od firem vyžadují.

Klíčové povinnosti do hloubky

1. Klasifikace rizika: ne každá AI je stejná

AI Act rozděluje systémy podle míry rizika – od zakázaných praktik (například sociální skórování občanů), přes vysoce rizikové systémy (například AI při náboru zaměstnanců nebo hodnocení bonity), až po systémy s minimálním rizikem. Prvním krokem pro každou firmu je proto správně zařadit své AI řešení do příslušné kategorie – od toho se odvíjejí všechny další povinnosti.

2. Transparentnost: uživatelé mají právo vědět, že komunikují s AI

Pravidla transparentnosti vyžadují, aby bylo jasně označeno, když člověk komunikuje s chatbotem, když je obsah (například obrázek či video) vygenerovaný umělou inteligencí, nebo když AI systém rozhoduje o něčem, co se člověka přímo týká. Skryté nebo zavádějící nasazení AI je jedním z nejrizikovějších prohřešků vůči nové regulaci.

3. GDPR a AI: když se dvě regulace potkávají

Většina AI systémů pracuje s daty, která mohou obsahovat osobní údaje – a tady přichází na řadu GDPR. Firmy musí zajistit právní základ pro zpracování dat, transparentně informovat dotčené osoby, umožnit uplatnění jejich práv (například práva na výmaz) a v případě vysoce rizikového zpracování vypracovat posouzení vlivu na ochranu osobních údajů (DPIA). Při trénování vlastních modelů na firemních datech je tato povinnost obzvlášť aktuální.

4. Řízení rizik a dokumentace: papírová stopa, která vás ochrání

U vysoce rizikových systémů AI Act vyžaduje zavedení systému řízení rizik po celý životní cyklus AI řešení, vedení technické dokumentace a zajištění lidského dohledu nad rozhodnutími systému. Tato dokumentace není jen formalita – v případě kontroly nebo stížnosti je to právě ona, co dokazuje, že firma jednala zodpovědně.

5. AI Governance: kdo ve firmě za AI skutečně odpovídá?

Čím dál víc firem zavádí interní AI governance procesy – jasně definované role, kdo schvaluje nasazení nových AI nástrojů, kdo sleduje soulad s regulacemi a kdo řeší případné incidenty. Bez této struktury se odpovědnost snadno „rozplyne" mezi jednotlivými týmy, což při kontrole ze strany úřadů působí mimořádně rizikově.

Naučte se AI prakticky – se znalostí souvislostí

Pokud chcete pochopit, jak AI nástroje skutečně fungují, a naučit se je prakticky používat bez potřeby programátorských znalostí, nabízíme jednodenní kurz „Praktický úvod do umělé inteligence (AI) bez předchozích znalostí". Naučíte se pracovat s OpenAI a Deepseek, vyzkoušíte si prompt engineering na reálných příkladech, natrénujete si vlastní AI model bez psaní kódu pomocí DataRobot a Google Colab a jako bonus nahlédnete i do AI nástrojů na AWS.

Kromě kurzů zaměřených na umělou inteligenci nabízíme i širokou škálu dalších IT školení – například programování v PHP, Javě a v mnoha dalších jazycích a technologiích. U nás si určitě najdete kurz, který posune vaši IT kariéru dál.

Časté otázky o AI Act a GDPR

1. Vztahuje se AI Act i na malé firmy?

Ano, povinnosti se odvíjejí především od rizikovosti konkrétního AI systému, ne od velikosti firmy, i když pro menší subjekty existují jistá zjednodušení.

2. Musím mít u každého AI systému posouzení vlivu na ochranu údajů?

Ne automaticky – DPIA je povinná zejména u zpracování, které představuje vysoké riziko pro práva a svobody dotčených osob.

3. Kde najdu aktuální stav platnosti jednotlivých povinností?

Doporučuje se sledovat oficiální stránky Evropské komise věnované AI Act, jelikož časový harmonogram se v průběhu roku 2026 ještě upřesňoval.

Top 5 zajímavých informací o AI Act a GDPR

1. EU AI Act je první komplexní regulací AI na světě: Mnoho dalších zemí se jí inspiruje při tvorbě vlastních pravidel.
2. Některé praktiky jsou zcela zakázané bez ohledu na odvětví: Například manipulativní techniky využívající zranitelnost lidí.
3. Pokuty za nejzávažnější porušení patří mezi nejvyšší v historii digitální regulace EU: Mohou převýšit i sankce známé z GDPR.
4. Transparentnost se týká i interních AI nástrojů: Ne jen těch, které vidí koncový zákazník.
5. AI governance se stává samostatnou profesí: Firmy čím dál častěji vytvářejí pozice jako AI Compliance Officer.