Risikoniveauer: forbudt, højrisiko, begrænset og minimal risiko
Kort svar
GoalCube giver hver brug af AI et af fire niveauer efter faste regler og jeres svar: forbudt (stoppes), højrisiko (et menneske bekræfter brugen og afgør hver sag), begrænset risiko og minimal risiko (godkendes automatisk efter jeres regler). Højrisiko er fx rekruttering og afgørelser om ansættelsesforhold (AI Act bilag III). Afgørelser om personer kræver altid et menneske (GDPR art. 22).
De fire niveauer
| Niveau | Hvad det betyder i GoalCube |
|---|---|
| Forbudt | Brugen stoppes. GoalCube hjælper ikke med den (AI Act art. 5). |
| Højrisiko | Et menneske bekræfter brugen, før AI'en får data, og afgør hver sag om en person (AI Act bilag III, art. 14 og 26). |
| Begrænset risiko | Godkendes automatisk efter jeres regler. Personer skal kunne se, at de taler med en AI, eller at indhold er lavet af AI (art. 50). |
| Minimal risiko | Godkendes automatisk efter jeres regler. Medarbejderne skal have AI-kompetence (art. 4). |
Forbudt brug af AI
| Forbudt praksis |
|---|
| Følelsesgenkendelse på arbejdspladsen eller i uddannelse |
| Social pointgivning af personer |
| Biometrisk kategorisering efter fx race, politisk holdning, religion eller seksualitet |
| Manipulation eller udnyttelse af sårbarheder, der kan skade personer |
Højrisikoområder
| Højrisikoområde (AI Act bilag III) |
|---|
| Rekruttering og udvælgelse af personer |
| Afgørelser om ansættelsesforhold (fx forfremmelse, vilkår, opsigelse, opgavefordeling, evaluering) |
| Uddannelse (adgang, bedømmelse, overvågning af prøver) |
| Kreditvurdering eller prissætning af liv- og sygeforsikring |
| Adgang til offentlige ydelser |
| Biometrisk identifikation eller kategorisering |
| Sikkerhed i kritisk infrastruktur |
Bruges AI'en kun til en snæver, forberedende opgave uden profilering, kan brugen være undtaget fra højrisiko. GoalCube spørger om det, når brugen registreres.
Afgørelser om personer
Uanset niveau kræver en afgørelse med væsentlig betydning for en person et menneske (GDPR art. 22). Derfor godkendes brug med afgørelser om personer aldrig automatisk.
Klassificeringen er forenklet og ikke juridisk rådgivning. Reglerne har en version; se Når GoalCubes regler ændres.