Livelli di rischio: vietato, alto rischio, limitato e minimo
In breve
GoalCube assegna a ogni uso dell'AI uno di quattro livelli, secondo regole fisse e le tue risposte: vietato (va interrotto), alto rischio (una persona conferma l'uso e decide ogni caso), rischio limitato e rischio minimo (approvati in automatico secondo le tue regole). Sono ad alto rischio, ad es., la selezione del personale e le decisioni sui rapporti di lavoro (allegato III dell'AI Act). Le decisioni sulle persone richiedono sempre una persona (art. 22 GDPR).
I quattro livelli
| Livello | Cosa significa in GoalCube |
|---|---|
| Vietato | L’uso viene bloccato. GoalCube non aiuta a farlo (art. 5 dell’AI Act). |
| Alto rischio | Una persona conferma l’uso prima che l’AI riceva i dati e decide ogni caso su una persona (allegato III e art. 14 e 26 dell’AI Act). |
| Rischio limitato | Approvato in automatico secondo le tue regole. Le persone devono poter capire che parlano con un’AI o che un contenuto è stato creato con l’AI (art. 50). |
| Rischio minimo | Approvato in automatico secondo le tue regole. I dipendenti devono avere l’alfabetizzazione AI (art. 4). |
Uso vietato dell'AI
| Pratiche vietate |
|---|
| Riconoscimento delle emozioni sul luogo di lavoro o nell'istruzione |
| Punteggio sociale delle persone |
| Categorizzazione biometrica in base a, ad esempio, origine etnica, opinioni politiche, religione o sessualità |
| Manipolazione o sfruttamento di vulnerabilità che possono danneggiare le persone |
Ambiti ad alto rischio
| Area ad alto rischio (allegato III dell’AI Act) |
|---|
| Selezione e assunzione di persone |
| Decisioni sul rapporto di lavoro (ad esempio promozione, condizioni, licenziamento, assegnazione dei compiti, valutazione) |
| Istruzione (accesso, valutazione, sorveglianza degli esami) |
| Valutazione del merito di credito o determinazione dei prezzi di assicurazioni vita e malattia |
| Accesso ai servizi pubblici |
| Identificazione o categorizzazione biometrica |
| Sicurezza nelle infrastrutture critiche |
Se l'AI è usata solo per un compito ristretto e preparatorio, senza profilazione, l'uso può essere escluso dall'alto rischio. GoalCube lo chiede quando l'uso viene registrato.
Decisioni sulle persone
Qualunque sia il livello, una decisione con effetti significativi su una persona richiede una persona (art. 22 GDPR). Per questo gli usi con decisioni sulle persone non vengono mai approvati in automatico.
La classificazione è semplificata e non è consulenza legale. Le regole hanno una versione; vedi Quando cambiano le regole di GoalCube.