Přejít na obsah
Menu
CS

Lidský dohled nad AI: co vyžadují předpisy a jak na to?

AI Act srozumitelněNaposledy aktualizováno 2 min čtení

Krátká odpověď

Lidský dohled znamená, že osoba s odborností a pravomocí rozumí silným i slabým stránkám AI, odhalí chyby, nespoléhá na ni slepě a může její výstup zvrátit nebo ji zastavit. AI Act ho vyžaduje u vysoce rizikové AI (čl. 14 pro poskytovatele, čl. 26 pro zavádějící subjekty). Čl. 22 GDPR už dnes vyžaduje, aby rozhodnutí s významem pro lidi nebyla výhradně automatická. V praxi: jeden případ po druhém, skutečná možnost říct ne, odůvodnění a záznam.

Vyzkoušejte si to sami

Tady jsou tři fiktivní případy. AI doporučila; vy rozhodnete. Zvolte jiné rozhodnutí a uvidíte, že musíte napsat odůvodnění.

GoalCube Personální rozhodnutíFiktivní data
Případ 1 z 3Pozice: Controller v týmu financí

Fakta o případu

Markéta Jelínková

Současná pozice
Senior controller
Zkušenosti
12 let
Životopis
Markéta Jelínková pracuje ve společnosti Dřevotvar Morava a.s. 12 let na rozpočtovém plánování a měsíčním reportingu. Zavedla nový systém ERP a vede tým tří lidí. Kontakt: marketa.jelinkova@example.com.

Doporučení AI

Pozvat na pohovor

Zdůvodnění: 12 let praxe v rozpočtovém plánování a reportingu, zavedla systém ERP a pochází z výrobní firmy.

Vaše rozhodnutí

Auditní protokol

  1. Rozhodnutí se tu ukládají s časem a časovým razítkem.

Fiktivní data. Rozhodnutí se ukládají jen ve vašem prohlížeči.

Proč jeden případ po druhém?

Když se zobrazí mnoho případů najednou, svádí to schválit je všechny. Jeden případ po druhém, s fakty a doporučením zvlášť, usnadňuje přemýšlet samostatně – a právě to předpisy chtějí.

Proč záznam?

Bez záznamu nedoložíte, že dohled proběhl. GoalCube ukládá každé rozhodnutí s časem, odůvodněním a řetězcem kontrolních součtů, aby záznam nešlo potichu změnit, a s nezávislými časovými razítky.

Jak na to

  1. Vyberte správné lidi.Někoho s odbornými znalostmi a pravomocí říct ne – ne jen toho, kdo má čas.
  2. Ukažte fakta a doporučení zvlášť.Člověk musí vidět podklady, ne jen závěr AI.
  3. Ať jde snadno říct ne.Tři možnosti: schválit, zvolit jiné rozhodnutí, nebo si vyžádat další informace.
  4. Vyžadujte odůvodnění, když se člověk odchýlí.Dokládá to, že posouzení bylo skutečné.
  5. Uchovávejte záznam.Kdo co rozhodl, kdy a proč – tak, aby ho nešlo dodatečně změnit.

Co říká zákon

AI Act, čl. 14 – lidský dohled
Nad vysoce rizikovou AI musí lidé moci účinně dohlížet, mimo jiné s ohledem na sklon k přílišnému spoléhání na výstup AI (automation bias).
AI Act, čl. 26 odst. 2
Zavádějící subjekt musí svěřit dohled osobám s potřebnou odborností, školením a pravomocí.
GDPR, čl. 22
Právo nebýt předmětem rozhodnutí založeného výhradně na automatizovaném zpracování, které má právní účinky nebo se podobně významně dotýká.

Otázky a odpovědi

Stačí, když zaměstnanec klikne na „schválit“?

Ne. Dohled musí být skutečný. Pokud dotyčný vždy schválí, aniž by četl, jde o sklon k přílišnému spoléhání na stroj (automation bias), ne o lidský dohled.

Musí člověk vidět všechny případy?

U vysokého rizika a rozhodnutí o lidech ano, každý případ. U nízkého rizika mohou stačit automatická pravidla.

Co je automation bias?

Sklon příliš důvěřovat návrhu stroje. AI Act ho výslovně zmiňuje v čl. 14.

Zdroje

Autor Redakce GoalCube. Naposledy aktualizováno 11. října 2026. GoalCube vám pomáhá dodržovat AI Act a GDPR. Nejde o právní poradenství.

Buďte mezi prvními.

Spuštění očekáváme v listopadu 2026. Zapište se a ozveme se vám, až budete moci začít.

Čtěte také