Risiconiveaus: verboden, hoog risico, beperkt en minimaal risico
Kort antwoord
GoalCube geeft elk gebruik van AI een van vier niveaus, volgens vaste regels en jullie antwoorden: verboden (wordt gestopt), hoog risico (een mens bevestigt het gebruik en beslist over elk dossier), beperkt risico en minimaal risico (automatisch goedgekeurd volgens jullie regels). Hoog risico is bijvoorbeeld werving en besluiten over arbeidsrelaties (bijlage III AI-verordening). Besluiten over personen vereisen altijd een mens (art. 22 AVG).
De vier niveaus
| Niveau | Wat het betekent in GoalCube |
|---|---|
| Verboden | Het gebruik wordt gestopt. GoalCube helpt daar niet bij (art. 5 AI-verordening). |
| Hoog risico | Een mens bevestigt het gebruik voordat de AI data krijgt, en beslist over elk dossier over een persoon (bijlage III en art. 14 en 26 AI-verordening). |
| Beperkt risico | Wordt automatisch goedgekeurd volgens jullie regels. Mensen moeten kunnen zien dat ze met een AI praten, of dat inhoud door AI is gemaakt (art. 50). |
| Minimaal risico | Wordt automatisch goedgekeurd volgens jullie regels. Medewerkers moeten AI-geletterd zijn (art. 4). |
Verboden gebruik van AI
| Verboden praktijk |
|---|
| Emotieherkenning op de werkplek of in het onderwijs |
| Sociale scoring van personen |
| Biometrische categorisering naar bijvoorbeeld ras, politieke opvattingen, religie of seksuele geaardheid |
| Manipulatie of misbruik van kwetsbaarheden waardoor personen schade kunnen lijden |
Gebieden met hoog risico
| Gebied met hoog risico (bijlage III AI-verordening) |
|---|
| Werving en selectie van personen |
| Besluiten over arbeidsverhoudingen (bijvoorbeeld promotie, voorwaarden, ontslag, taakverdeling, evaluatie) |
| Onderwijs (toegang, beoordeling, toezicht op examens) |
| Kredietbeoordeling of prijsstelling van levens- en ziektekostenverzekeringen |
| Toegang tot openbare diensten |
| Biometrische identificatie of categorisering |
| Beveiliging van kritieke infrastructuur |
Wordt de AI alleen gebruikt voor een beperkte, voorbereidende taak zonder profilering, dan kan het gebruik buiten hoog risico vallen. GoalCube vraagt ernaar als het gebruik wordt geregistreerd.
Besluiten over personen
Ongeacht het niveau vereist een besluit met aanzienlijke gevolgen voor een persoon een mens (art. 22 AVG). Daarom wordt gebruik met besluiten over personen nooit automatisch goedgekeurd.
De indeling is vereenvoudigd en geen juridisch advies. De regels hebben een versie; zie Als de regels van GoalCube veranderen.