Jaká AI je zakázaná podle čl. 5 aktu o umělé inteligenci?
Krátká odpověď
Od 2. února 2025 je zakázáno používat AI mimo jiné ke čtení emocí zaměstnanců nebo žáků, k bodování lidí za jejich chování (sociální scoring), k manipulaci se zranitelnými lidmi nebo jejich zneužívání, ke kategorizaci lidí podle rasy, politických názorů nebo sexuality na základě biometrie a k vytváření databází obličejů stahováním snímků z internetu. Od 2. prosince 2026 je zakázaná také AI pro sexuální deepfaky bez souhlasu a materiály zobrazující sexuální zneužívání dětí. Strop pokuty je 35 milionů eur nebo 7 % obratu.
Seznam zakázané AI
| Zakázáno | Příklad z běžné firmy |
|---|---|
| Manipulace skrytými technikami, které škodí | Aplikace, která tlačí zákazníky k nákupům, jejichž dosah nedokážou posoudit |
| Zneužívání zranitelnosti (věk, postižení, finanční situace) | Agresivně nabízené půjčky lidem v tíživé finanční situaci |
| Sociální scoring | Body za chování, které vedou k horšímu zacházení jinde |
| Předvídání trestné činnosti pouze na základě profilování | – |
| Databáze obličejů ze stažených snímků | Nástroje, které najdou osobu podle fotografie z internetu |
| Rozpoznávání emocí na pracovišti a ve vzdělávání | Kamera, která měří náladu zaměstnanců; analýza emocí při pracovních pohovorech |
| Biometrická kategorizace podle rasy, politiky, víry nebo sexuality | – |
| Rozpoznávání obličejů v reálném čase ve veřejném prostoru pro vymáhání práva | Jen policie a s výjimkami |
| Sexuální deepfaky bez souhlasu a materiály zobrazující sexuální zneužívání dětí (od 2. prosince 2026) | Generativní AI bez pojistek |
Zákaz, na který narazí nejvíc firem
Zákaz rozpoznávání emocí na pracovišti a ve vzdělávání je ten, na který běžné firmy narážejí nejčastěji. Týká se nástrojů pro videopohovory, call centra a porady, které z obličeje nebo hlasu vyvozují, zda je někdo spokojený, ve stresu, upřímný nebo zaujatý.
V GoalCube je zakázaný postup první otázkou, když zapisujete použití AI. Odpovíte-li ano, použití se zastaví a AI nedostane žádná data.
Schvaluje se automaticky podle vašich pravidel. Zaměstnanci musí mít potřebnou gramotnost v oblasti AI (čl. 4).
Uživatelé musí poznat, že komunikují s AI (čl. 50). GoalCube má hotový text, který můžete použít.
Nábor je v příloze III. Člověk použití potvrdí dřív, než AI dostane data, a rozhoduje každý případ (čl. 14 a 26; čl. 22 GDPR).
Rozpoznávání emocí na pracovišti je zakázáno (čl. 5). GoalCube s tím nepomáhá.
Příklad je zjednodušený. V GoalCube odpovíte na několik otázek a klasifikace se řídí pevnými pravidly.
Jak na to
- Projděte své nástroje AI.Zejména nástroje pro HR, sledování, video a marketing.
- Zeptejte se dodavatele.Čte systém emoce, náladu nebo osobnost z obličeje, hlasu či textu?
- Zastavte zakázané použití.Vypněte funkci nebo přestaňte nástroj používat. Žádné přechodné období neexistuje.
- Zapište to.Poznamenejte si do registru systémů AI, že jste ověřili, zda nejde o zakázané použití.
Co říká zákon
- Akt o umělé inteligenci, čl. 5 – zakázané postupy
- Platí od 2. února 2025. Nová písm. ba) a bb) od 2. prosince 2026 podle nařízení (EU) 2026/1744.
- Akt o umělé inteligenci, čl. 99 odst. 3 – pokuty
- Až 35 milionů eur nebo 7 % celosvětového ročního obratu, podle toho, co je vyšší. U malých podniků platí nižší z obou.
- Pokyny Komise k zakázaným postupům v oblasti AI
- Upřesňují každý zákaz na příkladech.
Otázky a odpovědi
Je zakázáno měřit pohodu zaměstnanců pomocí AI?
Anonymní dotazník zakázaný není. Zakázaná je ale AI, která na pracovišti vyvozuje emoce z obličeje, hlasu nebo řeči těla – kromě zdravotních nebo bezpečnostních důvodů.
A co alarm únavy pro řidiče?
AI, která odhaluje únavu z bezpečnostních důvodů, může mít výjimku. Pokud se používá k hodnocení zaměstnanců, je to něco jiného.
Platí zákazy i pro bezplatné nástroje?
Ano. Zákazy se týkají použití, ať je nástroj bezplatný, nebo placený.
Zdroje
Autor Redakce GoalCube. Naposledy aktualizováno 11. října 2026. GoalCube vám pomáhá dodržovat AI Act a GDPR. Nejde o právní poradenství.
Buďte mezi prvními.
Spuštění očekáváme v listopadu 2026. Zapište se a ozveme se vám, až budete moci začít.