Risikostufen: verboten, Hochrisiko, begrenztes und minimales Risiko
Kurze Antwort
GoalCube ordnet jede KI-Nutzung nach festen Regeln und Ihren Antworten einer von vier Stufen zu: verboten (wird gestoppt), Hochrisiko (ein Mensch bestätigt die Nutzung und entscheidet jeden Fall), begrenztes Risiko und minimales Risiko (nach Ihren Regeln automatisch freigegeben). Hochrisiko sind z. B. Recruiting und Entscheidungen über Beschäftigungsverhältnisse (Anhang III KI-VO). Entscheidungen über Personen erfordern immer einen Menschen (Art. 22 DSGVO).
Die vier Stufen
| Stufe | Was das in GoalCube bedeutet |
|---|---|
| Verboten | Die Nutzung wird gestoppt. GoalCube hilft dabei nicht (Art. 5 KI-VO). |
| Hochrisiko | Ein Mensch bestätigt die Nutzung, bevor die KI Daten erhält, und entscheidet jeden Fall über eine Person (Anhang III, Art. 14 und 26 KI-VO). |
| Begrenztes Risiko | Wird automatisch nach Ihren Regeln freigegeben. Personen müssen erkennen können, dass sie mit einer KI sprechen oder dass Inhalte von einer KI erstellt wurden (Art. 50 KI-VO). |
| Minimales Risiko | Wird automatisch nach Ihren Regeln freigegeben. Die Mitarbeitenden brauchen KI-Kompetenz (Art. 4 KI-VO). |
Verbotene Nutzung von KI
| Verbotene Praktiken |
|---|
| Emotionserkennung am Arbeitsplatz oder in der Ausbildung |
| Soziale Bewertung von Personen (Social Scoring) |
| Biometrische Kategorisierung z. B. nach ethnischer Herkunft, politischer Meinung, Religion oder sexueller Ausrichtung |
| Manipulation oder Ausnutzung von Schwächen, die Personen schaden können |
Hochrisiko-Bereiche
| Hochrisikobereich (Anhang III KI-VO) |
|---|
| Recruiting und Auswahl von Personen |
| Entscheidungen über Beschäftigungsverhältnisse (z. B. Beförderung, Arbeitsbedingungen, Kündigung, Aufgabenverteilung, Bewertung) |
| Bildung (Zugang, Bewertung, Überwachung von Prüfungen) |
| Bonitätsprüfung oder Preisgestaltung bei Lebens- und Krankenversicherung |
| Zugang zu öffentlichen Leistungen |
| Biometrische Identifizierung oder Kategorisierung |
| Sicherheit in kritischen Infrastrukturen |
Wird die KI nur für eine eng begrenzte, vorbereitende Aufgabe ohne Profiling genutzt, kann die Nutzung von Hochrisiko ausgenommen sein. GoalCube fragt danach, wenn die Nutzung eingetragen wird.
Entscheidungen über Personen
Unabhängig von der Stufe erfordert eine Entscheidung mit erheblicher Bedeutung für eine Person einen Menschen (Art. 22 DSGVO). Deshalb wird eine Nutzung mit Entscheidungen über Personen nie automatisch freigegeben.
Die Einstufung ist vereinfacht und keine Rechtsberatung. Die Regeln haben eine Version; siehe Wenn sich die Regeln von GoalCube ändern.