Co musíme dělat, když používáme AI? Povinnosti zavádějícího subjektu v AI Actu
Krátká odpověď
Všechny firmy, které používají AI, musí zajistit gramotnost v oblasti AI (čl. 4), nepoužívat zakázanou AI (čl. 5) a informovat lidi, když se setkají s deepfaky nebo rozpoznáváním emocí (čl. 50). Pokud používáte vysoce rizikovou AI, přibývá od 2. prosince 2027 čl. 26: používejte systém podle pokynů, svěřte dohled kompetentním lidem, zajistěte relevantní vstupní údaje, sledujte používání, uchovávejte logy nejméně 6 měsíců, informujte zaměstnance a dotčené osoby a spolupracujte s úřady.
Povinnosti při každém používání AI
| Povinnost | Kdy | Článek |
|---|---|---|
| Gramotnost v oblasti AI | Od 2. února 2025 | Čl. 4 |
| Žádná zakázaná AI | Od 2. února 2025 | Čl. 5 |
| Informovat o deepfakech a rozpoznávání emocí | Od 2. srpna 2026 | Čl. 50 odst. 3 a 4 |
Další povinnosti u vysokého rizika
Čl. 26 platí od 2. prosince 2027 pro použití z přílohy III. Nejdůležitější je lidský dohled: osoba, která systému rozumí, pozná, kdy se plete, a má pravomoc říct ne. V GoalCube o každém případu týkajícím se osoby rozhoduje člověk a log ukazuje, kdo co rozhodl, kdy a proč.
A co GDPR?
Mnoho povinností se překrývá s GDPR: informační povinnost (čl. 13 a 14), právo na rozhodnutí člověka (čl. 22) a posouzení vlivu na ochranu osobních údajů (čl. 35). Akt o umělé inteligenci přímo říká, že do DPIA máte použít informace od dodavatele (čl. 26 odst. 9).
Jak na to
- Dodržujte návod k použití.Používejte AI k tomu, k čemu je určena a jak ji popisuje dodavatel.
- Určete dohled.Jmenované osoby s kompetencí, školením a pravomocí.
- Řiďte vstupní údaje.Údaje, které dodáváte sami, musí být relevantní a reprezentativní pro daný účel.
- Sledujte a reagujte.Zastavte používání a podejte hlášení, pokud AI představuje riziko nebo dojde k závažnému incidentu.
- Uchovávejte logy.Automatické logy, které máte pod kontrolou, nejméně 6 měsíců.
- Informujte.Zaměstnance a jejich zástupce před nasazením na pracovišti; osoby, jichž se rozhodnutí týkají.
Co říká zákon
- Akt o umělé inteligenci, čl. 26 – povinnosti zavádějících subjektů
- Obsah Digital Omnibus nemění; platí od 2. prosince 2027 u přílohy III.
- Akt o umělé inteligenci, čl. 27 – posouzení dopadu na základní práva (FRIA)
- Pro veřejnoprávní subjekty, soukromé poskytovatele veřejných služeb a u úvěrů a životního či zdravotního pojištění.
- Akt o umělé inteligenci, čl. 86 – právo na vysvětlení
- Dotčené osoby mohou požádat o vysvětlení role AI v rozhodnutí.
Otázky a odpovědi
Jsme zavádějící subjekt, když zaměstnanci používají ChatGPT?
Ano, když ho používají v práci pro vás. Osobní, nepracovní použití je vyňato.
Jak dlouho musíme uchovávat logy?
Nejméně 6 měsíců u logů, které máte pod kontrolou, pokud jiný právní předpis nestanoví jinak.
Jak informovat zaměstnance?
Před nasazením vysoce rizikové AI na pracovišti musí zaměstnanci a jejich zástupci dostat informaci. GoalCube má hotový vzor.
Zdroje
Autor Redakce GoalCube. Naposledy aktualizováno 11. října 2026. GoalCube vám pomáhá dodržovat AI Act a GDPR. Nejde o právní poradenství.
Buďte mezi prvními.
Spuštění očekáváme v listopadu 2026. Zapište se a ozveme se vám, až budete moci začít.