Čtyři úrovně rizika v AI Act – kam patří vaše používání AI?
Krátká odpověď
AI Act má čtyři úrovně. Zakázanou AI používat nesmíte (například rozpoznávání emocí na pracovišti). Vysoce riziková AI (například nábor, úvěry a vzdělávání) vyžaduje od 2. prosince 2027 lidský dohled, záznamy a informování dotčených osob. U omezeného rizika (chatboty a deepfaky) musíte říct, že jde o AI. Minimální riziko (například texty a shrnutí) vyžaduje jen gramotnost v oblasti AI. Úroveň závisí na tom, k čemu se AI používá – ne na nástroji.
Zkuste si to sami
Vyberte úkol a podívejte se, jak se zařadí:
Schvaluje se automaticky podle vašich pravidel. Zaměstnanci musí mít potřebnou gramotnost v oblasti AI (čl. 4).
Uživatelé musí poznat, že komunikují s AI (čl. 50). GoalCube má hotový text, který můžete použít.
Nábor je v příloze III. Člověk použití potvrdí dřív, než AI dostane data, a rozhoduje každý případ (čl. 14 a 26; čl. 22 GDPR).
Rozpoznávání emocí na pracovišti je zakázáno (čl. 5). GoalCube s tím nepomáhá.
Příklad je zjednodušený. V GoalCube odpovíte na několik otázek a klasifikace se řídí pevnými pravidly.
Zjednodušený příklad. V GoalCube odpovíte na pár otázek a zařazení se řídí pevnými pravidly.
Jak GoalCube zachází s jednotlivými úrovněmi
| Úroveň | Co to znamená v GoalCube |
|---|---|
| Zakázáno | Použití se zastaví. GoalCube s ním nepomáhá (čl. 5 AI Act). |
| Vysoké riziko | Člověk použití potvrdí dřív, než AI dostane data, a rozhoduje každý případ osoby (příloha III, čl. 14 a 26 AI Act). |
| Omezené riziko | Schvaluje se automaticky podle vašich pravidel. Lidé musí poznat, že komunikují s AI, nebo že obsah vytvořila AI (čl. 50). |
| Minimální riziko | Schvaluje se automaticky podle vašich pravidel. Zaměstnanci musí mít gramotnost v oblasti AI (čl. 4). |
Riziko určuje použití
Stejný nástroj může mít různé riziko. Copilot, který napíše koncept newsletteru, je minimální riziko. Copilot, který řadí zaměstnance pro přidělení bonusu, je vysoké riziko. Proto evidujete každé použití AI zvlášť – ne každý nástroj.
A co GDPR?
Úroveň rizika podle AI Act o osobních údajích nic neříká. I použití s minimálním rizikem může vyžadovat smlouvu o zpracování osobních údajů a právní základ, pokud AI vidí jména a e-maily.
Jak na to
- Popište úkol, ne nástroj.ChatGPT může být minimální riziko u e-mailů a vysoké riziko při třídění uchazečů.
- Nejdřív zkontrolujte zákazy.Pokud se použití týká něčeho z čl. 5, musí se zastavit.
- Zkontrolujte přílohu III.Nábor, pracovněprávní vztahy, vzdělávání, úvěry, pojištění, veřejné dávky a biometrie.
- Zkontrolujte transparentnost.Mluví lidé s AI, nebo AI vytváří obrázky, zvuk či video, které vypadají jako skutečné?
- Zapište výsledek do registru AI.S odůvodněním, abyste mohli doložit, proč jste použití zařadili právě tak.
Co říká zákon
- AI Act, čl. 5 – zakázané postupy
- Seznam zakázaných postupů platný od 2. února 2025.
- AI Act, čl. 6 a příloha III – vysoké riziko
- Kdy je AI vysoce riziková a výjimky v čl. 6 odst. 3.
- AI Act, čl. 50 – transparentnost
- Chatboty, generativní AI, deepfaky a rozpoznávání emocí.
Otázky a odpovědi
Je ChatGPT vysoce rizikový?
Ne, sám o sobě ne. Riziko závisí na použití. Používáte-li ChatGPT k třídění uchazečů, je toto použití vysoce rizikové.
Co když AI jen připravuje případ?
Podle čl. 6 odst. 3 není AI z přílohy III vysoce riziková, pokud plní jen úzký přípravný úkol a výsledek podstatně neovlivňuje. AI, která profiluje osoby, je ale vždy vysoce riziková.
Kdo úroveň určuje?
Určujete ji sami – jako zavádějící subjekt musíte umět své posouzení vysvětlit. GoalCube používá pevná pravidla a ukazuje odůvodnění.
Zdroje
Autor Redakce GoalCube. Naposledy aktualizováno 11. října 2026. GoalCube vám pomáhá dodržovat AI Act a GDPR. Nejde o právní poradenství.
Buďte mezi prvními.
Spuštění očekáváme v listopadu 2026. Zapište se a ozveme se vám, až budete moci začít.