Risknivåer: förbjuden, hög, begränsad och minimal risk
Kort svar
GoalCube ger varje användning av AI en av fyra nivåer utifrån fasta regler och era svar: förbjuden (stoppas), hög risk (en människa bekräftar användningen och beslutar i varje ärende), begränsad risk och minimal risk (godkänns automatiskt enligt era regler). Hög risk är t.ex. rekrytering och beslut om anställningsförhållanden (bilaga III till AI-förordningen). Beslut om personer kräver alltid en människa (artikel 22 i GDPR).
De fyra nivåerna
| Nivå | Vad det betyder i GoalCube |
|---|---|
| Förbjuden | Användningen stoppas. GoalCube hjälper inte till med den (artikel 5 i AI-förordningen). |
| Hög risk | En människa bekräftar användningen innan AI:n får data och beslutar i varje ärende om en person (bilaga III och artiklarna 14 och 26 i AI-förordningen). |
| Begränsad risk | Godkänns automatiskt enligt era regler. Personer ska kunna se att de pratar med en AI eller att innehåll är skapat av AI (artikel 50). |
| Minimal risk | Godkänns automatiskt enligt era regler. Medarbetarna behöver AI-kunnighet (artikel 4). |
Förbjuden användning av AI
| Förbjudna AI-användningsområden |
|---|
| Känsloigenkänning på arbetsplatsen eller i utbildning |
| Social poängsättning av personer |
| Biometrisk kategorisering efter t.ex. ras, politisk åsikt, religion eller sexualitet |
| Manipulation eller utnyttjande av sårbarheter som kan skada personer |
Områden med hög risk
| Högriskområde (bilaga III till AI-förordningen) |
|---|
| Rekrytering och urval av personer |
| Beslut om anställningsförhållanden (t.ex. befordran, villkor, uppsägning, fördelning av arbetsuppgifter, utvärdering) |
| Utbildning (tillträde, bedömning, övervakning av prov) |
| Kreditprövning eller prissättning av liv- och sjukförsäkring |
| Tillgång till offentliga tjänster och förmåner |
| Biometrisk identifiering eller kategorisering |
| Säkerhet i kritisk infrastruktur |
Används AI bara för en snäv, förberedande uppgift utan profilering kan användningen vara undantagen från hög risk. GoalCube frågar om det när användningen registreras.
Beslut om personer
Oavsett nivå ska en människa fatta beslut som har väsentlig betydelse för en person (artikel 22 i GDPR). Därför godkänns användning med beslut om personer aldrig automatiskt.
Klassificeringen är förenklad och inte juridisk rådgivning. Reglerna har en version, se När GoalCubes regler ändras.