Fiabilité et contrôle · Couche 6
Journalisation
Enregistrer automatiquement ce que fait une IA, qui l’a sollicitée, avec quelles données et quel résultat, pour pouvoir le prouver ensuite.
Pour se le représenterLa boîte noire d’un avion : personne ne la consulte un jour ordinaire, mais sans elle, impossible d’expliquer un incident ni de montrer que tout s’est bien passé.
Une banque de détail utilise une IA qui aide ses conseillers à instruire les demandes de crédit des particuliers. Chaque recommandation est journalisée avec la version du modèle, les données utilisées, le conseiller qui a décidé et l’éventuel écart avec la recommandation. Quand un client conteste un refus, la banque reconstitue en quelques minutes ce que l’IA a proposé et ce que le conseiller a décidé. Les journaux sont conservés selon une durée fixée avec le délégué à la protection des données, puis supprimés.
Les systèmes à haut risque doivent permettre techniquement l’enregistrement automatique des événements tout au long de leur vie, pour assurer leur traçabilité (UE · AI Act, art. 12). Le déployeur conserve les journaux qu’il contrôle pendant une durée adaptée, d’au moins six mois sauf autre règle du droit de l’Union ou national (UE · AI Act, art. 26), à partir du 2 décembre 2027 pour les systèmes de l’annexe III. Les journaux contiennent souvent des données personnelles : ils obéissent eux-mêmes à la minimisation et à une durée limitée, tout en servant la sécurité et la preuve de conformité (UE · RGPD, art. 5 et 32). Dans le cas général, la CNIL recommande de conserver les journaux de six mois à un an (France · CNIL).
« Que journalisez-vous exactement (demande, version du modèle, documents consultés, outils appelés, validation), pendant combien de temps, et comment accédons-nous à nos journaux, y compris en fin de contrat ? »
Pour un système à haut risque, au moins six mois côté déployeur, sauf autre règle applicable (UE · AI Act, art. 26). Au-delà, la durée se justifie par la finalité : dans le cas général, la CNIL recommande six mois à un an (France · CNIL).
Pas forcément. Il faut ce qui permet de reconstituer une décision ; le contenu intégral, souvent riche en données personnelles, se justifie au cas par cas et se protège en conséquence.
Les deux, chacun pour ce qu’il contrôle : pour un système à haut risque, l’AI Act impose au fournisseur comme au déployeur de conserver les journaux sous leur contrôle (UE · AI Act, art. 19 et 26). Le contrat doit préciser ce qui est journalisé, où, combien de temps, et comment vous y accédez.
Fiche pédagogique, pas un avis juridique. À jour au 29 octobre 2026.