Niveaux de risque : interdit, haut risque, risque limité et risque minimal
En bref
GoalCube attribue à chaque usage de l'IA l'un de quatre niveaux, selon des règles fixes et vos réponses : interdit (bloqué), haut risque (un humain confirme l'usage et décide de chaque dossier), risque limité et risque minimal (validés automatiquement selon vos règles). Le haut risque, c'est par ex. le recrutement et les décisions sur la relation de travail (annexe III du RIA). Les décisions sur des personnes exigent toujours un humain (article 22 du RGPD).
Les quatre niveaux
| Niveau | Ce que cela signifie dans GoalCube |
|---|---|
| Interdit | L’usage est bloqué. GoalCube n’y aide pas (AI Act, art. 5). |
| Haut risque | Une personne confirme l’usage avant que l’IA reçoive les données, et décide de chaque dossier sur une personne (AI Act, annexe III, art. 14 et 26). |
| Risque limité | Validé automatiquement selon vos règles. Les personnes doivent savoir qu’elles échangent avec une IA ou qu’un contenu a été généré par une IA (art. 50). |
| Risque minimal | Validé automatiquement selon vos règles. Les salariés doivent avoir la maîtrise de l’IA (art. 4). |
Usages interdits de l'IA
| Pratiques interdites |
|---|
| Reconnaissance des émotions sur le lieu de travail ou dans l'éducation |
| Notation sociale des personnes |
| Catégorisation biométrique selon, par exemple, la race, les opinions politiques, la religion ou l'orientation sexuelle |
| Manipulation ou exploitation de vulnérabilités pouvant nuire à des personnes |
Domaines à haut risque
| Domaine à haut risque (AI Act, annexe III) |
|---|
| Recrutement et sélection de personnes |
| Décisions relatives à la relation de travail (par ex. promotion, conditions, licenciement, répartition des tâches, évaluation) |
| Éducation (accès, évaluation, surveillance des examens) |
| Évaluation de solvabilité ou tarification des assurances vie et santé |
| Accès aux prestations publiques |
| Identification ou catégorisation biométrique |
| Sécurité des infrastructures critiques |
Si l'IA n'est utilisée que pour une tâche étroite et préparatoire, sans profilage, l'usage peut être exclu du haut risque. GoalCube vous pose la question quand vous enregistrez l'usage.
Décisions sur des personnes
Quel que soit le niveau, une décision ayant une incidence significative sur une personne exige un humain (article 22 du RGPD). C'est pourquoi un usage comportant des décisions sur des personnes n'est jamais validé automatiquement.
La classification est simplifiée et ne constitue pas un conseil juridique. Les règles ont une version ; voir Quand les règles de GoalCube changent.