Fiabilité et contrôle · Couche 5
Contrôle humain
La capacité réelle d’une personne compétente à comprendre, corriger ou arrêter ce que propose une IA, avant que cela produise ses effets.
Pour se le représenterLe copilote qui relit la check-list : utile s’il a le temps, la compétence et le droit de dire « on ne décolle pas ». S’il signe sans regarder, ce n’est qu’un tampon.
En pratiqueSi la personne ne peut pas dire non en pratique, la décision reste automatisée aux yeux des autorités de protection des données.
Une direction des ressources humaines utilise une IA pour présélectionner des candidatures. Les recruteurs voient le classement, mais aussi les CV complets et les critères appliqués, et peuvent repêcher un candidat écarté. Chaque trimestre, l’équipe compare les choix des recruteurs à ceux de l’outil : un accord systématique déclencherait une revue du dispositif. Un candidat peut demander qu’une personne réexamine son dossier.
Pour les systèmes à haut risque, l’AI Act exige un contrôle humain effectif : comprendre les limites du système, se garder de s’y fier par automatisme, pouvoir ignorer ou inverser son résultat et l’arrêter (UE · AI Act, art. 14). Le déployeur confie ce contrôle à des personnes qui ont la compétence, la formation et l’autorité nécessaires (UE · AI Act, art. 26), à partir du 2 décembre 2027 pour les systèmes de l’annexe III. Indépendamment de l’AI Act, une personne a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé qui l’affecte de manière significative et, lorsqu’une telle décision est permise, d’obtenir une intervention humaine et de la contester (UE · RGPD, art. 22). Selon les lignes directrices européennes, cette intervention doit être significative, et non un simple geste symbolique (UE · CEPD).
« Sur quels éléments le valideur s’appuie-t-il, combien de temps a-t-il par dossier, et quelle part des propositions de l’IA modifie-t-il ou refuse-t-il ? »
Seulement si elle est réelle : la personne doit avoir l’autorité et la compétence pour modifier la décision, et les exercer vraiment. Une validation en masse, sans examen, laisse la décision exclusivement automatisée.
La tendance à se fier trop facilement au résultat d’une machine. L’AI Act demande que les personnes chargées du contrôle d’un système à haut risque soient en mesure d’en rester conscientes (UE · AI Act, art. 14).
Oui. Le 21 août 2026, l’autorité néerlandaise de protection des données a infligé 824 990 000 euros d’amende à Uber pour avoir désactivé automatiquement des comptes de chauffeurs sans les en informer suffisamment (Pays-Bas · AP). Uber a fait appel.
Fiche pédagogique, pas un avis juridique. À jour au 29 octobre 2026.