Contrôle humain de l'IA : que dit la loi, et comment faire ?
En bref
Le contrôle humain signifie qu'une personne compétente et dotée de l'autorité nécessaire comprend les forces et les faiblesses de l'IA, repère les erreurs, ne s'y fie pas aveuglément, et peut passer outre ou l'arrêter. L'AI Act l'exige pour l'IA à haut risque (art. 14 pour les fournisseurs, art. 26 pour les déployeurs). L'article 22 du RGPD exige déjà aujourd'hui que les décisions importantes pour une personne ne soient pas exclusivement automatisées. En pratique : un dossier à la fois, une vraie possibilité de dire non, une motivation et un journal.
Essayez vous-même
Voici trois dossiers fictifs. L'IA a fait une recommandation ; c'est vous qui décidez. Choisissez une autre décision, et vous verrez que vous devez la motiver.
Les faits du dossier
Sophie Laurent
- Poste actuel
- Contrôleuse de gestion senior
- Expérience
- 12 ans
- CV
- Sophie Laurent a 12 ans d'expérience en budget et reporting mensuel chez Bois du Rhône SAS. Elle a déployé un nouvel ERP et encadre une équipe de trois personnes. Contact : sophie.laurent@exemple.fr.
Recommandation de l’IA
Convoquer en entretien
Justification: 12 ans d'expérience en budget et reporting, a déployé un ERP et vient de l'industrie.
Points d’incertitude de l’IA:
Journal d’audit
- Les décisions sont enregistrées ici avec l’heure et un horodatage.
Données fictives. Les décisions ne sont enregistrées que dans votre navigateur.
Pourquoi un dossier à la fois ?
Quand beaucoup de dossiers s'affichent en même temps, on est tenté de tout approuver d'un coup. Un dossier à la fois, avec les faits et la recommandation séparés, aide à réfléchir par soi-même – et c'est exactement ce que veut la loi.
Pourquoi un journal ?
Sans journal, vous ne pouvez pas prouver que le contrôle a eu lieu. GoalCube enregistre chaque décision avec l'heure, la motivation et une chaîne de sommes de contrôle, pour que le journal ne puisse pas être modifié en douce, ainsi que des horodatages indépendants.
Comment faire
- Choisissez les bonnes personnes.Quelqu'un qui connaît le métier et a l'autorité pour dire non – pas simplement celui qui a le temps.
- Montrez les faits et la recommandation séparément.L'humain doit voir les éléments du dossier, pas seulement la conclusion de l'IA.
- Rendez le « non » facile.Trois choix : approuver, choisir une autre décision ou demander plus d'informations.
- Exigez une motivation quand l'humain s'écarte de l'IA.Cela prouve que l'examen était réel.
- Conservez le journal.Qui a décidé quoi, quand et pourquoi – sans possibilité de modification après coup.
Ce que dit la loi
- Article 14 du RIA – contrôle humain
- L'IA à haut risque doit pouvoir être contrôlée efficacement par des humains, notamment face au biais d'automatisation.
- Article 26, paragraphe 2, du RIA
- Le déployeur doit confier le contrôle humain à des personnes disposant des compétences, de la formation et de l'autorité nécessaires.
- Article 22 du RGPD
- Droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, produisant des effets juridiques ou des effets similaires significatifs.
Questions et réponses
Suffit-il qu'un salarié clique sur « approuver » ?
Non. Le contrôle doit être réel. Si la personne clique toujours sur « approuver » sans lire, c'est du biais d'automatisation – pas du contrôle humain.
L'humain doit-il voir tous les dossiers ?
Pour le haut risque et les décisions sur des personnes : oui, chaque dossier. Pour un risque faible, des règles automatiques peuvent suffire.
Qu'est-ce que le biais d'automatisation ?
La tendance à trop se fier aux suggestions d'une machine. L'AI Act le cite expressément à l'article 14.
Sources
Rédigé par La rédaction GoalCube. Dernière mise à jour 11 octobre 2026. GoalCube vous aide à respecter l’AI Act et le RGPD. Ce n’est pas un conseil juridique.
Soyez parmi les premiers.
Le lancement est prévu en novembre 2026. Inscrivez-vous : nous vous contacterons dès que vous pourrez commencer.