Hallucination : pourquoi une IA invente, et comment s'en protéger

Une IA hallucine parce qu'elle prédit le texte le plus plausible mot après mot, sans avoir de notion de vrai ou de faux. Quand elle ne sait pas, elle ne se tait pas : elle comble le trou avec aplomb, et la phrase fausse a exactement le même air d'assurance que la phrase juste. C'est le risque le plus mal compris des LLM, et c'est aussi celui qui se gère le mieux une fois qu'on a compris d'où il vient.

Une machine à prédire le mot suivant, pas à dire la vérité

Un LLM ne consulte pas une base de faits. À chaque mot, il calcule quelle suite est la plus probable au vu de tout ce qu'il a lu pendant son entraînement. "La capitale de la France est..." appelle "Paris" parce que cette suite est massivement attestée. Le modèle ne sait pas que Paris est la capitale : il sait que ce mot vient statistiquement là.

Tant que la réponse plausible coïncide avec la réponse vraie, tout va bien. Le problème, c'est que rien dans le mécanisme ne distingue les deux. Une référence produit qui sonne juste, un article de loi au format crédible, un nom d'auteur vraisemblable : tout ça est "probable" pour le modèle, même si ça n'existe pas.

Pourquoi elle invente plutôt que d'avouer qu'elle ne sait pas

Ici, le mot "invente" n'implique aucune intention : le modèle n'a pas l'idée de tromper. Il produit la continuation la plus probable, point. Une étude d'OpenAI de septembre 2025 (« Why Language Models Hallucinate ») montre que la manière dont on entraîne et évalue ces modèles récompense la réponse confiante plutôt que l'aveu d'ignorance : répondre au hasard rapporte plus de points que dire "je ne sais pas". Le modèle apprend donc à toujours tenter une réponse, même quand il devine.

Résultat : face à une question dont il n'a pas la matière, un LLM produit quand même quelque chose de fluide et d'assuré. Le ton ne baisse jamais d'un cran quand la fiabilité chute. C'est précisément ce qui rend l'hallucination dangereuse : elle ne ressemble pas à une erreur, elle ressemble à une réponse.

Quand le risque monte

L'hallucination n'arrive pas au hasard. Elle grimpe dès qu'on pousse le modèle hors de ce qu'il a vu souvent.

• Les chiffres précis. Un montant, une statistique, une date exacte : le modèle les reconstitue de mémoire approximative, et un chiffre faux passe inaperçu.
• Les citations et références. Un titre de livre, un numéro d'arrêt, une URL, un DOI : autant de formats que le modèle sait imiter parfaitement sans garantir qu'ils existent.
• Les questions très pointues. Un cas de niche, un détail technique rare, une procédure interne : peu d'exemples dans l'entraînement, donc beaucoup de comblage.
• Les faits récents. Tout ce qui s'est passé après l'arrêt de l'entraînement du modèle est hors de sa connaissance. Il répondra quand même, avec ce qu'il croit savoir.

La règle pratique : plus ta question est spécifique, vérifiable et conséquente, plus tu dois te méfier d'une réponse trop lisse.

L'exemple Maisons&Mobilia

Chez M&M, Sophie teste un assistant pour répondre aux clients du service après-vente. Elle lui demande la politique de retour sur un canapé. L'assistant répond, net et structuré : "Tu disposes de 60 jours pour un retour gratuit, reprise à domicile incluse." Sauf que la vraie politique M&M est de 30 jours, sans reprise à domicile. Le modèle n'a pas menti : 60 jours et la reprise à domicile sont des clauses courantes dans le commerce de meubles, donc statistiquement plausibles. Il a comblé un trou avec la version la plus probable du monde, pas avec la règle réelle de M&M.

Même piège quand Sophie demande une référence : l'assistant cite un modèle "M&M Lutèce 3 places, réf. MM-3092" qui n'a jamais existé au catalogue. Le format est parfait, le produit est fictif.

Comment s'en protéger

L'hallucination se réduit beaucoup, mais ne se supprime pas. Tant qu'un modèle prédit du texte plausible, le risque résiduel reste. L'objectif n'est pas le zéro absolu, c'est de le faire tomber assez bas pour ton usage, et de mettre un filet là où l'enjeu est fort.

• Branche des sources via un RAG. Le RAG (retrieval-augmented generation), introduit dans un papier de Facebook AI Research en 2020, fait d'abord chercher les bons documents (le catalogue M&M, la vraie politique de retour), puis demande au modèle de répondre à partir d'eux. Le modèle n'improvise plus dans le vide, il s'appuie sur tes données.
• Demande de citer. Exige que la réponse pointe ses sources ("d'après quel document ?"). Une affirmation sans source vérifiable est un signal d'alerte, pas une preuve.
• Garde un humain sur les cas sensibles. Juridique, médical, financier, engagement contractuel : la réponse de l'IA est un brouillon à valider, jamais la décision finale.
• Baisse l'enjeu. Utilise l'IA pour reformuler, résumer, brainstormer, défricher : là où une erreur coûte peu. Réserve la vérification stricte aux faits qui engagent.
• Recoupe. Pour un chiffre ou une citation qui compte, va voir la source d'origine. Trente secondes de vérification valent mieux qu'une référence inventée envoyée à un client.

Aller plus loin

Comprendre l'hallucination en lisant, c'est un début. La manipuler soi-même, c'est ce qui fait vraiment cliquer : sur l'app saisir.ai, tu apprends en touchant l'IA générative et les agents, 5 minutes par jour, en français, sans coder. Tu vois de tes yeux quand un modèle comble un trou, et comment une source bien branchée change la réponse.

Pour creuser les notions citées ici : qu'est-ce qu'un RAG montre comment brancher des sources sur un modèle, et c'est quoi un LLM explique la machine à prédire le mot suivant qui est au coeur du problème.