Hallucinations de l’IA : les repérer et les limiter

Les hallucinations IA sont des réponses fausses, inventées de toutes pièces, que l’outil présente avec la même assurance qu’une information exacte : une jurisprudence qui n’existe pas, un chiffre sans origine, une politique commerciale imaginaire. On ne peut pas les supprimer, mais on peut apprendre à les repérer et organiser le travail pour qu’elles n’atteignent ni un client ni un document officiel.

Un chatbot, un deuil et une condamnation

Un voyageur consulte l’assistant en ligne d’Air Canada pour réserver un vol après le décès de sa grand-mère. Le chatbot lui explique qu’il pourra demander après coup le tarif réduit prévu pour les deuils. C’est faux : une autre page du site indiquait le contraire. Devant le tribunal de résolution civile de Colombie-Britannique, la compagnie soutient que le chatbot serait une entité juridique distincte, responsable de ses propres propos. Le tribunal, dans sa décision rendue en février 2024, répond qu’il devrait être évident pour Air Canada qu’elle est responsable de toutes les informations publiées sur son site, qu’elles viennent d’une page statique ou d’un chatbot.

L’affaire a fait le tour du monde parce qu’elle tranche une question simple : l’erreur de la machine est celle de l’entreprise. Les professions juridiques en font l’expérience à grande échelle. Le chercheur Damien Charlotin tient une base de données publique des décisions de justice dans lesquelles un tribunal relève qu’une partie s’est appuyée sur du contenu halluciné : fausses références de jurisprudence, citations inventées, textes mal attribués, avec les sanctions qui ont suivi.

D’où viennent les hallucinations de l’IA

Un modèle de langage ne consulte pas une base de faits. Il prédit, mot après mot, la suite la plus probable compte tenu de ce qu’il a vu pendant son entraînement. Quand l’information est abondante et cohérente dans ses données, la suite probable est souvent la bonne. Quand elle est rare, ambiguë ou absente, il produit quand même un texte fluide, avec la forme d’une bonne réponse.

Une équipe de chercheurs (Adam Tauman Kalai et ses coauteurs) a proposé en septembre 2025 une explication qui a beaucoup circulé. Selon eux, les modèles hallucinent parce que les procédures d’entraînement et d’évaluation récompensent la réponse tentée plutôt que l’aveu d’incertitude. Les modèles sont optimisés pour réussir des tests, et deviner quand on ne sait pas améliore le score, exactement comme pour un élève devant un QCM sans point négatif. Leur proposition : modifier la notation des tests de référence pour cesser de pénaliser le « je ne sais pas ».

Le vocabulaire lui-même fait débat. Dans son profil de gestion des risques de l’IA générative publié en juillet 2024, l’institut américain des normes (NIST) emploie le terme de « confabulation » : le système génère et présente avec assurance un contenu erroné ou faux. Le document note que les mots « hallucination » et « fabrication » prêtent à la machine des caractéristiques humaines, ce qui constitue en soi un risque : on finit par la traiter comme un interlocuteur qui sait.

Les formes que prend l’erreur

Toutes les hallucinations ne se ressemblent pas, et certaines sont bien plus faciles à attraper que d’autres. Le tableau ci-dessous récapitule celles que l’on rencontre le plus dans un usage professionnel.

Le cas le plus piégeux est la source réelle mal citée, parce qu’il résiste à une vérification paresseuse : on clique, le document existe, on s’arrête là. Seule la lecture du passage concerné révèle le problème.

Repérer une réponse douteuse : les signaux d’alerte

La fluidité du texte ne dit rien de sa justesse. En revanche, certains contenus doivent déclencher systématiquement une vérification, quel que soit l’outil :

• les références juridiques (articles de code, décisions, numéros de texte) et les obligations assorties de dates ou de seuils ;
• les chiffres précis, surtout quand aucune source n’est donnée ou que la source est vague (« selon une étude ») ;
• les citations entre guillemets attribuées à une personne ;
• les noms de personnes, d’entreprises, de produits et leurs caractéristiques ;
• les événements récents, que le modèle peut ignorer ou reconstituer ;
• toute réponse qui confirme exactement ce que la question suggérait.

Ce dernier point mérite qu’on s’y arrête. Une question orientée (« pourquoi la loi impose-t-elle tel délai ? ») pousse le modèle à justifier une prémisse qui peut être fausse. Formuler la question de façon neutre (« quel délai la loi impose-t-elle, et quel texte le prévoit ? ») réduit ce biais.

Limiter les hallucinations IA dès la question

On ne peut pas éliminer le phénomène, mais la façon de travailler change beaucoup la fréquence des erreurs. Trois pratiques ont fait leurs preuves dans les usages courants.

Fournir la matière plutôt que demander de mémoire. Coller le texte de référence, joindre le document ou brancher l’outil sur une base documentaire réduit le besoin d’inventer. C’est le principe du RAG, qui fait répondre une IA à partir de vos propres documents. Ce n’est pas une garantie : des chercheurs de Stanford ont mesuré en 2024 que des outils juridiques professionnels fondés sur ce principe se trompaient encore dans 17 % à 33 % des cas, contre des taux plus élevés pour un assistant généraliste.

Deuxième pratique, autoriser explicitement l’incertitude. Puisque les modèles sont incités à deviner, il faut leur donner une porte de sortie et l’exiger. Troisième pratique, demander des réponses vérifiables : sources précises, extraits cités mot pour mot, distinction entre ce qui vient du document et ce qui relève de la connaissance générale du modèle. Notre méthode pour construire un prompt qui donne des réponses exploitables développe ces consignes.

Réponds uniquement à partir du document joint.
Pour chaque affirmation, cite entre guillemets la phrase du document qui la justifie.
Si le document ne permet pas de répondre, écris "Information absente du document"
et ne complète pas avec tes propres connaissances.
Termine par la liste des points que je dois vérifier moi-même.

Pour un travail de recherche, préférez les outils qui affichent leurs sources avec un lien (Perplexity, ou les modes de recherche web de ChatGPT, Gemini et Copilot), sans oublier que le lien affiché ne prouve pas que la page dit ce qu’on lui fait dire. Pour interroger vos propres fichiers, NotebookLM renvoie chaque réponse aux passages qui la fondent, ce qui raccourcit la vérification.

Organiser la vérification dans l’équipe

Le risque n’est pas le même selon l’usage. Un brouillon de post LinkedIn relu par sa rédactrice ne pose pas les mêmes questions qu’une réponse envoyée automatiquement à un client, ou qu’une note juridique transmise à la direction. La règle de base : plus la sortie va loin sans relecture humaine, plus le contrôle doit être structuré en amont. C’est aussi pourquoi confier une chaîne de tâches à un agent IA demande des garde-fous supplémentaires.

Prenons le cas type d’une agence de communication de huit personnes qui utilise l’IA pour préparer des dossiers de presse et des réponses à appels d’offres. Elle peut adopter une procédure courte, applicable par tous :

1. Classer l’usage. Brouillon interne, contenu publié, document engageant (contrat, réponse officielle, conseil). Seule la première catégorie dispense de vérification formelle.
2. Isoler les affirmations vérifiables. Avant relecture, surligner chaque chiffre, nom propre, date, référence et citation.
3. Remonter à la source primaire. Ouvrir le texte officiel, le rapport ou la page de l’organisme, et lire le passage, pas seulement le titre.
4. Supprimer ce qui ne se vérifie pas. Une donnée introuvable sort du document, même si elle paraît plausible.
5. Tracer. Garder la liste des sources consultées avec le livrable, pour pouvoir répondre si un client conteste.

Côté protection des données, la CNIL recommande dans ses questions-réponses sur l’IA générative de toujours porter un regard critique sur les contenus produits, en vérifiant qu’ils sont exacts et qu’il ne s’agit pas d’un plagiat, et de former les utilisateurs au fonctionnement et aux limites de ces systèmes. Le sujet devient central dès qu’un assistant produit des informations sur des personnes réelles : un fait inventé sur un client, un candidat ou un élu n’est plus seulement une erreur, c’est une donnée personnelle inexacte.

Pour replacer ces précautions dans une démarche d’ensemble, notre guide pratique de l’intelligence artificielle pour les professionnels et notre méthode pour démarrer avec l’IA générative détaillent les choix d’outils et de règles internes. Les autres articles de la rubrique sont réunis dans notre dossier intelligence artificielle.

Questions fréquentes

Pourquoi l’IA invente-t-elle des réponses ?

Un modèle de langage produit le texte le plus probable, pas le plus vrai. Des chercheurs ont montré en 2025 que l’entraînement et les tests d’évaluation récompensent une réponse tentée plutôt qu’un aveu d’incertitude : comme un élève face à un QCM sans pénalité, le modèle a intérêt à deviner quand il ne sait pas.

Comment savoir si une réponse de ChatGPT est fausse ?

On ne le sait qu’en vérifiant. Méfiez-vous des chiffres précis sans source, des références juridiques ou bibliographiques, des noms propres et des citations entre guillemets. Ouvrez chaque source citée et contrôlez qu’elle existe et qu’elle dit bien ce que l’outil lui attribue, sans vous contenter du titre.

Peut-on supprimer complètement les hallucinations de l’IA ?

Non, à l’état actuel des techniques. On peut en réduire la fréquence en fournissant des documents de référence, en autorisant l’outil à répondre qu’il ne sait pas et en demandant des sources vérifiables. Même les outils professionnels fondés sur la recherche documentaire conservent un taux d’erreur mesurable.

Qui est responsable si un chatbot donne une information fausse à un client ?

L’entreprise qui le met en ligne. En 2024, un tribunal canadien a condamné Air Canada, dont l’assistant avait mal renseigné un client sur un tarif. Le tribunal a rejeté l’idée que le chatbot serait une entité distincte : l’entreprise répond de toutes les informations publiées sur son site.

Quelle différence entre une hallucination et une erreur classique ?

Une erreur classique vient souvent d’une donnée fausse au départ. L’hallucination est une information fabriquée : une source, un chiffre ou un fait qui n’existe nulle part, présenté avec la même assurance qu’une réponse exacte. C’est cette assurance qui la rend difficile à détecter sans vérification.

Sources

1. NIST, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (NIST AI 600-1), 2024. lien
2. Kalai A. T., Nachum O., Vempala S. S., Zhang E., Why Language Models Hallucinate, 2025. lien
3. Magesh V. et al. (Stanford), Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools, 2024. lien
4. McCarthy Tétrault, Moffatt v. Air Canada: A Misrepresentation by an AI Chatbot, 2024. lien
5. Damien Charlotin, AI Hallucination Cases Database. lien
6. CNIL, Les questions-réponses de la CNIL sur l’utilisation d’un système d’IA générative, 2024. lien

Innomédia · Intelligence artificielle · Une erreur, une précision ? Écrivez à la rédaction.