AI Act je tady. V platnost vstoupil 1. srpna 2024 a jednotlivé povinnosti budou nabíhat postupně až do roku 2027 podle Nařízení EU 2024/1689.
Co to znamená pro české firmy v praxi? Pojďme si to projít srozumitelně, bez zbytečné právničiny a hlavně tak, abyste věděli, co začít řešit jako první.
Co je AI Act a koho se týká
AI Act je první ucelený evropský právní rámec pro umělou inteligenci. Platí přímo ve všech státech Evropské unie, podobně jako GDPR, jak shrnuje Česká asociace umělé inteligence.
Týká se firem, které AI systémy vyvíjejí, dovážejí, distribuují nebo používají. Většina českých firem ale nebude v roli vývojáře regulovaného AI systému. Mnohem častěji půjde o takzvaný zavádějící subjekt, tedy firmu, která AI jednoduše používá při své práci.
Typicky může jít o používání nástrojů jako ChatGPT, Microsoft Copilot, různé chatboty, generátory textů, obrázků, přepisů, analýz nebo interních automatizací.
AI Act dělí AI systémy podle rizika
AI Act rozlišuje několik úrovní rizika. Právě podle toho se odvíjí, jak přísné povinnosti se na daný systém vztahují.
1. Nepřijatelné riziko
Sem patří praktiky, které jsou zakázané. Od 2. února 2025 jde například o sociální skórování, rozpoznávání emocí na pracovišti, predikci kriminality bez opory ve faktech nebo některé formy biometrické identifikace v reálném čase na veřejných místech.
Pro běžnou firmu je důležité hlavně to, aby si ověřila, že žádný z jejích AI nástrojů do této zakázané oblasti nespadá.
2. Vysoké riziko
Vysoce rizikové AI systémy se týkají citlivých oblastí. Patří sem například personalistika, vzdělávání, kritická infrastruktura, vymáhání práva nebo soudnictví.
Pokud by firma používala AI například při rozhodování o náboru, hodnocení zaměstnanců nebo posuzování uchazečů, je potřeba zbystřit. Právě tady mohou být povinnosti výrazně přísnější.
3. Omezené riziko
Tohle bude praktické téma pro řadu firem. Spadají sem například chatboti, deepfaky nebo generativní AI tam, kde může uživatel nabýt dojmu, že komunikuje s člověkem nebo že výstup vznikl bez pomoci AI.
Hlavní povinnost je transparentnost. Člověk má vědět, že komunikuje s AI nebo že určitý obsah vznikl pomocí umělé inteligence.
4. Minimální riziko
Sem bude spadat většina běžného používání nástrojů typu ChatGPT nebo Copilot, například pro psaní textů, rešerše, shrnutí, přípravu podkladů nebo interní produktivitu.
AI Act tady nepřidává zvláštní přísný režim. To ale neznamená, že je možné používat AI bez pravidel. Pořád platí odpovědnost firmy, ochrana dat, autorská práva, obchodní tajemství a interní bezpečnostní pravidla.
Kdy začínají povinnosti platit
AI Act nabíhá postupně:
- 1. srpna 2024 vstoupil AI Act v platnost.
- 2. února 2025 začaly platit zákazy nepřijatelných praktik a povinnost AI gramotnosti.
- 2. srpna 2025 začínají platit pravidla pro obecné modely AI.
- 2. srpna 2026 se rozšíří použitelnost pravidel pro systémy s vysokým a omezeným rizikem.
Do vývoje navíc vstoupil také Digital Omnibus. Evropská komise v listopadu 2025 navrhla podmíněný odklad části povinností pro vysoce rizikové systémy. Jinými slovy, termíny je potřeba sledovat, protože se některé praktické detaily mohou ještě měnit.
Co to znamená pro běžnou firmu
První povinnost už běží, AI gramotnost.
Neznamená to, že se každý zaměstnanec musí stát technikem nebo specialistou na umělou inteligenci. Firma by ale měla přijmout přiměřená opatření, aby lidé chápali, jak AI nástroje používat bezpečně a odpovědně, jak vysvětluje FAQ Evropské komise.
V praxi to může připomínat BOZP. Zaměstnance proškolíte, nastavíte opakování školení, vysvětlíte základní rizika a povedete si záznamy.
Důležité je, aby lidé rozuměli hlavně těmto tématům:
- co jsou halucinace AI,
- proč nevkládat do AI citlivá nebo interní data,
- jak přistupovat k autorským právům,
- kdo odpovídá za finální výstup,
- kdy je nutné výstup AI zkontrolovat člověkem.
Pokud používáte vysoce rizikový AI systém, povinnosti budou přísnější. Firma by ho měla používat podle návodu, zajistit lidský dohled, hlídat kvalitu vstupních dat a informovat zaměstnance, pokud je AI nasazena na pracovišti.
U chatbotů a generativní AI bude klíčová transparentnost. Uživatel má vědět, že komunikuje s AI. Stejně tak by měl být vhodně označen obsah vytvořený umělou inteligencí, zejména pokud může působit jako skutečný člověk, hlas, obraz nebo video.
Potřebují zaměstnanci certifikát AI gramotnosti?
Tohle je častá otázka.
Krátká odpověď: ne, žádný oficiální certifikát AI gramotnosti na úrovni EU ani ČR v tuto chvíli neexistuje.
Evropská komise ve svém FAQ zároveň potvrzuje, že neexistuje povinnost formálně měřit znalosti zaměstnanců. Klíčové je, aby firma dokázala prokázat, že lidi přiměřeně proškolila a že o tom vede záznamy.
Podobně jako u BOZP nejde jen o „papír“. Jde o to, aby zaměstnanci věděli, co mohou do AI nástrojů zadávat, co už je rizikové a kdy musí být při práci s AI opatrní.
Sankce a dohled v Česku 🇨🇿
AI Act počítá s vysokými sankcemi.
Za zakázané praktiky může pokuta dosáhnout až 35 milionů eur nebo 7 % celosvětového ročního obratu. U většiny ostatních porušení může jít až o 15 milionů eur nebo 3 % obratu.
Český návrh zákona o AI nastavuje dohled a vymáhání pravidel v Česku. U malých a středních podniků by se měly pokuty posuzovat přiměřeně podle velikosti a ekonomické situace firmy. U méně závažných porušení se počítá také s upozorněním a lhůtou na nápravu nejméně 15 dnů.
Hlavním dozorovým orgánem má být ČTÚ. Oblast financí má spadat pod ČNB a osobní údaje pod ÚOOÚ. V českém implementačním rámci se počítá také s rolí ÚNMZ a s regulatorním sandboxem.
Mini-checklist pro vaši firmu
Začít můžete jednoduše. Nemusíte hned vytvářet složité právní dokumenty. Důležité je získat přehled a nastavit základní pořádek.
- Zmapujte, jaké AI nástroje ve firmě skutečně používáte.
- Určete svou roli: jste poskytovatel, nebo AI pouze používáte?
- Zařaďte používané nástroje podle rizika.
- Ověřte, že se nepohybujete v oblasti zakázaných praktik.
- Nastavte školení AI gramotnosti a veďte o něm záznamy.
- Připravte interní AI směrnici: co se do AI zadávat smí a co ne.
- Sledujte další vývoj českého zákona o AI.
Shrnutí
AI Act není jen formalita. Zároveň ale nejde o překážku, která by firmám znemožnila AI používat.
Pro většinu běžných firem bude zásadní hlavně pořádek: vědět, jaké AI nástroje používají, kdo s nimi pracuje, jaká data do nich lidé zadávají a jak se kontrolují výstupy.
Čím dříve si uděláte základní přehled, proškolíte tým a nastavíte jednoduchá pravidla, tím klidnější budete mít náskok.
V NaučímeAI Klubu se budeme AI Actu věnovat dál. Připravili jsme už konkrétní šablony, postupy a praktické návody pro firmy, které chtějí používat AI bezpečně, rozumně a bez zbytečného stresu.
Autor: Jakub Baxa, spoluzakladatel NaučímeAI s.r.o.
