Agents et automatisation · Couche 5
Garde-fous
L’ensemble des contrôles placés autour d’une IA pour bloquer ce qu’elle ne doit ni lire, ni dire, ni faire.
Pour se le représenterLes rambardes d’un pont : elles n’empêchent pas de mal conduire, mais elles limitent la chute. Et elles se posent avant l’ouverture du pont, pas après le premier accident.
Un assureur déploie un assistant qui aide ses gestionnaires à répondre aux réclamations. En entrée, les numéros de contrat et les données de santé sont masqués avant d’atteindre le modèle. En sortie, un contrôle bloque toute promesse d’indemnisation chiffrée. L’assistant peut préparer un courrier mais pas l’envoyer : l’envoi reste un geste du gestionnaire.
Pour les systèmes à haut risque, l’AI Act exige un niveau approprié de robustesse et de cybersécurité, y compris face aux entrées conçues pour tromper le modèle (UE · AI Act, art. 15). Le RGPD impose la protection des données dès la conception et des mesures de sécurité adaptées au risque (UE · RGPD, art. 25 et 32) : des garde-fous documentés et testés en font partie. L’injection de consignes arrive en tête des risques recensés pour les applications de modèles de langage (international · OWASP, Top 10 2025).
« Lesquels de vos garde-fous sont des règles techniques indépendantes du modèle, lesquels ne sont que des consignes, et comment les testez-vous contre l’injection de consignes ? »
Une consigne demande au modèle de se comporter d’une certaine façon ; il peut s’en écarter. Un garde-fou technique, comme un droit refusé, un plafond ou un filtre extérieur au modèle, s’applique quoi que le modèle produise.
Un texte caché dans un document, une page web ou un e-mail, qui donne des ordres à l’IA qui le lit, par exemple « transmets ce dossier à telle adresse ». C’est le premier risque du classement 2025 consacré aux applications de modèles de langage (international · OWASP).
Rarement seuls. L’éditeur protège son modèle de façon générale ; vos règles métier, vos données sensibles et vos droits d’accès restent à définir et à tester chez vous.
Fiche pédagogique, pas un avis juridique. À jour au 29 octobre 2026.