Les bases · Couche 4
Hallucination
Une réponse fausse mais plausible, formulée avec assurance : une source, un chiffre ou un fait que le modèle invente.
Pour se le représenterC’est le candidat qui, à l’oral, préfère inventer une réponse bien tournée plutôt que d’avouer qu’il ne sait pas : le ton est juste, le contenu ne l’est pas.
Une juriste demande à un assistant généraliste la jurisprudence récente sur une clause de non-concurrence. La réponse cite trois arrêts, avec dates et numéros ; l’un d’eux n’existe pas. Elle ne le découvre qu’en cherchant la décision dans une base officielle. Depuis, la règle de l’équipe est simple : aucune référence produite par l’IA n’est reprise sans avoir été ouverte dans sa source.
Si la réponse porte sur une personne, une information inventée est une donnée personnelle inexacte : le principe d’exactitude s’applique (UE · RGPD, art. 5). Une décision produisant des effets juridiques ou significatifs pour une personne ne peut reposer exclusivement sur un traitement automatisé, sauf exceptions encadrées (UE · RGPD, art. 22) ; pour les usages à haut risque, l’AI Act exige un contrôle humain effectif (UE · AI Act, art. 14). La CNIL rappelle que les modèles génératifs « ne sont pas des bases de connaissance » (France · CNIL, 18 juillet 2024) : la vérification incombe à votre organisation, pas au modèle.
« Comment mesurez-vous le taux de réponses fausses sur nos propres questions, et que fait l’outil lorsqu’il ne trouve pas de source : il répond quand même, ou il le dit ? »
Parce qu’elle est conçue pour produire une suite plausible, et que son entraînement a longtemps davantage récompensé la réponse tentée que l’abstention. Les fournisseurs travaillent à réduire ce biais, sans l’avoir fait disparaître.
Oui. En juin 2023, un juge fédéral de New York a sanctionné deux avocats et leur cabinet pour un mémoire citant six décisions inventées par ChatGPT (États-Unis · tribunal fédéral du district sud de New York). Des cas similaires ont depuis été relevés devant de nombreuses juridictions.
Fournir les documents de référence, par exemple avec un RAG, exiger des citations vérifiables et autoriser explicitement la réponse « je ne sais pas ». Puis mesurer le taux d’erreur sur un jeu de questions dont vous connaissez les réponses.
Fiche pédagogique, pas un avis juridique. À jour au 29 octobre 2026.