Úrovně rizika: zakázané, vysoké, omezené a minimální riziko
Krátká odpověď
GoalCube přiřadí každému použití AI jednu ze čtyř úrovní podle pevných pravidel a vašich odpovědí: zakázané (zastaví se), vysoké riziko (člověk použití potvrdí a rozhodne každý případ), omezené riziko a minimální riziko (schválí se automaticky podle vašich pravidel). Vysoké riziko je například nábor a rozhodnutí o pracovním poměru (příloha III AI Act). Rozhodnutí o osobách vždy vyžadují člověka (čl. 22 GDPR).
Čtyři úrovně
| Úroveň | Co to znamená v GoalCube |
|---|---|
| Zakázáno | Použití se zastaví. GoalCube s ním nepomáhá (čl. 5 AI Act). |
| Vysoké riziko | Člověk použití potvrdí dřív, než AI dostane data, a rozhoduje každý případ osoby (příloha III, čl. 14 a 26 AI Act). |
| Omezené riziko | Schvaluje se automaticky podle vašich pravidel. Lidé musí poznat, že komunikují s AI, nebo že obsah vytvořila AI (čl. 50). |
| Minimální riziko | Schvaluje se automaticky podle vašich pravidel. Zaměstnanci musí mít gramotnost v oblasti AI (čl. 4). |
Zakázané použití AI
| Zakázané postupy |
|---|
| Rozpoznávání emocí na pracovišti nebo ve vzdělávání |
| Sociální scoring osob |
| Biometrická kategorizace podle např. rasy, politického názoru, náboženství nebo sexuální orientace |
| Manipulace nebo zneužití zranitelností, které může osobám uškodit |
Oblasti s vysokým rizikem
| Vysoce rizikové oblasti (příloha III AI Act) |
|---|
| Nábor a výběr osob |
| Rozhodnutí o pracovním poměru (např. povýšení, podmínky, výpověď, rozdělení úkolů, hodnocení) |
| Vzdělávání (přístup, hodnocení, dohled nad zkouškami) |
| Posuzování úvěruschopnosti nebo stanovení ceny životního a zdravotního pojištění |
| Přístup k veřejným službám a dávkám |
| Biometrická identifikace nebo kategorizace |
| Bezpečnost kritické infrastruktury |
Pokud se AI používá jen na úzký přípravný úkol bez profilování, může být použití z vysokého rizika vyňato. GoalCube se na to zeptá, když použití zapisujete.
Rozhodnutí o osobách
Bez ohledu na úroveň vyžaduje rozhodnutí s významným dopadem na osobu člověka (čl. 22 GDPR). Proto se použití s rozhodnutími o osobách nikdy neschvaluje automaticky.
Klasifikace je zjednodušená a není právním poradenstvím. Pravidla mají verzi; viz Když se pravidla GoalCube změní.