Poziomy ryzyka: zakazane, wysokie, ograniczone i minimalne ryzyko
Krótka odpowiedź
GoalCube nadaje każdemu użyciu AI jeden z czterech poziomów według stałych reguł i Twoich odpowiedzi: zakazane (zatrzymane), wysokie ryzyko (człowiek potwierdza użycie i rozstrzyga każdą sprawę), ograniczone ryzyko oraz minimalne ryzyko (zatwierdzane automatycznie według Twoich reguł). Wysokie ryzyko to np. rekrutacja i decyzje dotyczące stosunku pracy (załącznik III do AI Act). Decyzje dotyczące osób zawsze wymagają człowieka (art. 22 RODO).
Cztery poziomy
| Poziom | Co to znaczy w GoalCube |
|---|---|
| Zakazane | Użycie jest zatrzymywane. GoalCube w tym nie pomaga (art. 5 AI Act). |
| Wysokie ryzyko | Człowiek potwierdza użycie, zanim AI dostanie dane, i rozstrzyga każdą sprawę o osobie (załącznik III, art. 14 i 26 AI Act). |
| Ograniczone ryzyko | Zatwierdzane automatycznie według Twoich reguł. Ludzie muszą widzieć, że rozmawiają z AI albo że treść stworzyło AI (art. 50). |
| Minimalne ryzyko | Zatwierdzane automatycznie według Twoich reguł. Pracownicy muszą mieć kompetencje w zakresie AI (art. 4). |
Zakazane użycie AI
| Zakazane praktyki |
|---|
| Rozpoznawanie emocji w miejscu pracy lub w edukacji |
| Scoring społeczny osób |
| Kategoryzacja biometryczna według np. rasy, poglądów politycznych, religii lub seksualności |
| Manipulacja lub wykorzystanie słabości, które mogą zaszkodzić osobom |
Obszary wysokiego ryzyka
| Obszary wysokiego ryzyka (załącznik III AI Act) |
|---|
| Rekrutacja i wybór osób |
| Decyzje dotyczące stosunku pracy (np. awans, warunki, wypowiedzenie, podział zadań, ocena) |
| Edukacja (dostęp, ocenianie, nadzór nad egzaminami) |
| Ocena zdolności kredytowej albo wycena ubezpieczeń na życie i zdrowotnych |
| Dostęp do świadczeń publicznych |
| Identyfikacja lub kategoryzacja biometryczna |
| Bezpieczeństwo w infrastrukturze krytycznej |
Jeśli AI jest używane tylko do wąskiego zadania przygotowawczego bez profilowania, użycie może być wyłączone z wysokiego ryzyka. GoalCube pyta o to, gdy użycie jest wpisywane do rejestru.
Decyzje dotyczące osób
Bez względu na poziom decyzja o istotnym znaczeniu dla osoby wymaga człowieka (art. 22 RODO). Dlatego użycia z decyzjami dotyczącymi osób nigdy nie są zatwierdzane automatycznie.
Klasyfikacja jest uproszczona i nie jest poradą prawną. Reguły mają wersję; zobacz Gdy reguły GoalCube się zmieniają.