Hallucinations de l'IA : comment vérifier les réponses de ChatGPT

Une hallucination d'IA est une réponse assurée et fluide d'un chatbot comme ChatGPT, Gemini ou Claude qui est fausse ou non étayée, par exemple une citation inventée, un lien cassé ou une date erronée. Elle se produit parce que les modèles de langage génèrent du texte en prédisant les mots probables plutôt qu'en consultant des faits. Pour vérifier une réponse d'IA, contrôlez chaque source, lien, chiffre et citation auprès d'un original indépendant avant de vous y fier.

À retenir

Les modèles de langage prédisent un texte plausible ; rien en eux ne vérifie que ce qu'ils écrivent est vrai.
Les hallucinations les plus dommageables sont les fausses références : des auteurs, revues, DOI et URL d'apparence réelle, mais qui n'existent pas.
Les détails précis, comme les chiffres, les dates, les noms et les citations, sont les éléments les plus susceptibles d'être faux et les plus faciles à vérifier.
Demander au modèle d'admettre son incertitude et lui fournir des documents sources réduit les hallucinations, sans les supprimer.
Les outils appuyés sur une recherche aident pour les faits récents, mais vous devez quand même ouvrir la page citée et confirmer qu'elle dit bien ce que la réponse affirme.

Les chatbots sont utiles pour rédiger, résumer et expliquer, et la plupart de ce qu'ils disent sur des sujets courants est exact. Le problème, c'est que leurs mauvaises réponses ressemblent exactement aux bonnes. Ce guide explique d'où viennent les hallucinations, les formes qu'elles prennent le plus souvent et une routine pratique pour vérifier une réponse.

Pourquoi les grands modèles de langage hallucinent

Ils prédisent le token suivant

Un grand modèle de langage (LLM) est entraîné sur une énorme quantité de texte pour prédire le plus petit morceau de texte suivant, appelé token, à partir de tout ce qui précède. Face à une question, il produit la suite qui correspond le mieux aux schémas appris. Quand les données d'entraînement contenaient la réponse de nombreuses fois, la suite la plus probable est généralement correcte. Quand ce n'était pas le cas, le modèle produit quand même la suite qui a l'air la plus plausible, car rien dans le mécanisme de base ne dit « stop, je ne sais pas ».

C'est pourquoi les fabrications sont si convaincantes. Une référence inventée a la bonne forme : des noms d'auteurs réalistes, une revue qui publie dans ce domaine, une année cohérente et un DOI au bon format. Le modèle a appris à quoi ressemblent les références bien mieux qu'il n'a mémorisé lesquelles existent.

L'entraînement récompense la réponse

Après le préentraînement, les modèles sont ajustés pour être utiles, et les évaluateurs humains comme les benchmarks automatisés ont eu tendance à récompenser une réponse complète plutôt qu'un « je ne suis pas sûr ». Des chercheurs d'OpenAI ont soutenu, dans un article de 2025 intitulé Why Language Models Hallucinate, qu'une notation qui n'accorde aucun point à l'abstention pousse les modèles à deviner. Les modèles récents expriment mieux leur incertitude, mais la tendance n'a pas disparu.

Date limite d'entraînement

Les connaissances d'un modèle s'arrêtent à sa date limite d'entraînement. Interrogé sur des événements plus récents, de nouvelles lois, les prix actuels ou la dernière version d'un logiciel, un modèle sans accès à la recherche peut décrire une situation ancienne comme actuelle ou combler le vide par une supposition.

Pas de recherche d'information par défaut

Tant qu'un chatbot n'est pas relié à la recherche web ou aux documents que vous fournissez, il répond uniquement de mémoire. Il ne peut pas ouvrir l'article qu'il cite ni vérifier qu'une URL fonctionne. Même avec la recherche, il peut mal lire une page, confondre deux sources ou associer une référence correcte à une affirmation que la source ne fait pas.

Les types d'hallucinations les plus courants

Type	À quoi cela ressemble	Comment vérifier
Fausses références	Un article, un livre ou une décision de justice avec des auteurs, un titre et une revue plausibles mais inexistants, ou un vrai article auquel on attribue des conclusions qu'il ne contient pas	Recherchez le titre exact dans un catalogue de bibliothèque ou sur Google Scholar ; lisez le résumé ou la section concernée
DOI et identifiants inventés	Un DOI, un ISBN ou un identifiant arXiv qui ne mène nulle part, ou qui mène à une œuvre sans rapport	Ouvrez `https://doi.org/` suivi du DOI ; cherchez les ISBN dans un catalogue de bibliothèque ; ouvrez l'identifiant arXiv
URL inventées	Un lien sur un domaine réel avec un chemin crédible qui renvoie « 404 Not Found »	Ouvrez le lien ; s'il échoue, cherchez le contenu sur le site
Chiffres et dates erronés	Statistiques, prix, populations, dates de sortie ou numéros de version légèrement ou totalement faux	Retrouvez le chiffre dans une source officielle ou primaire et vérifiez sa date
Citations mal attribuées	Une citation à l'air authentique attribuée à une personnalité qui ne l'a jamais dite	Recherchez la formulation exacte entre guillemets et remontez à un discours, un livre ou une interview d'origine
Raisonnements faux, mais assurés	Erreurs de calcul, logique invalide ou code qui appelle des fonctions inexistantes, présentés étape par étape	Refaites le calcul, exécutez le code, vérifiez les noms de fonctions dans la documentation officielle

Les fausses citations ont eu des conséquences réelles. Dans l'affaire américaine Mata v. Avianca de 2023, des avocats ont été sanctionnés après avoir déposé un mémoire contenant des décisions de justice que ChatGPT avait inventées. Des incidents similaires ont depuis été signalés dans d'autres tribunaux et dans des articles universitaires publiés.

Méthode pas à pas pour vérifier une réponse d'IA

Inutile de vérifier chaque phrase de chaque réponse. Adaptez l'effort aux enjeux : une idée de recette demande moins d'attention qu'une affirmation médicale, juridique ou financière, ou que tout ce que vous publierez sous votre nom.

Isolez les affirmations vérifiables. Listez chaque référence, lien, chiffre, date, nom et citation directe. C'est là que se cachent la plupart des hallucinations, et là que la vérification est la plus rapide.
Résolvez chaque identifiant. Ouvrez chaque URL, résolvez chaque DOI sur doi.org, cherchez chaque ISBN et identifiant arXiv. Un identifiant qui échoue, ou qui mène à une autre œuvre, est un signal d'alerte pour toute la référence.
Confirmez que chaque source dit ce qu'on lui fait dire. Un article réel peut ne pas étayer la phrase à laquelle il est rattaché. Lisez le résumé, la section concernée ou le passage cité.
Comparez les chiffres aux sources primaires. Allez sur le site de l'institut statistique, du régulateur, des documents officiels déposés par l'entreprise ou de l'étude d'origine, pas sur un blog qui répète le chiffre. Notez la date du chiffre.
Remontez les citations jusqu'à leur origine. Recherchez les mots exacts entre guillemets. Si les seules sources sont des recueils de citations sans référence d'origine, considérez la citation comme non vérifiée.
Refaites le raisonnement. Refaites les calculs, testez le code dans un environnement réel et vérifiez que chaque étape découle de la précédente.
Lisez en recoupant. Pour les affirmations importantes, cherchez deux sources fiables et indépendantes qui concordent, plutôt que de vous appuyer sur une seule.
Supprimez ou signalez ce que vous ne pouvez pas vérifier. Si une affirmation ne peut pas être confirmée, retirez-la ou marquez-la clairement comme non confirmée.

Notre Vérificateur d'hallucinations IA automatise les premières étapes. Collez une réponse d'IA : il vérifie les DOI auprès de Crossref, teste si les liens fonctionnent, contrôle les identifiants arXiv et les ISBN, examine les lignes de référence et liste les statistiques et affirmations factuelles qui demandent encore une vérification humaine. Il vous dit quels identifiants sont réels ; lire la source pour confirmer qu'elle étaye l'affirmation reste votre travail.

Des prompts qui réduisent les hallucinations

La façon de poser la question influe sur la fréquence à laquelle un modèle invente. Ces techniques aident, même si aucune ne rend une réponse fiable à elle seule.

Autorisez-le à ne pas savoir. Les modèles admettent plus volontiers leur incertitude quand on leur dit que c'est acceptable.
Fournissez les documents sources. Collez le document, le rapport ou les données et demandez au modèle de répondre uniquement à partir de cela. C'est le changement le plus efficace.
Demandez des citations. Exiger une courte citation textuelle du texte fourni pour chaque affirmation facilite le repérage des énoncés non étayés.
Séparez les faits de l'inférence. Demandez au modèle d'indiquer ce qui est énoncé dans les sources et ce qui relève de son propre raisonnement.
Évitez les questions orientées. « Quelle étude a prouvé X ? » pousse le modèle à produire une étude. « Existe-t-il des preuves de X ? » laisse la place à un « non ».
Demandez moins de références, mais de meilleure qualité. Les demandes de longues listes de lecture produisent davantage d'entrées inventées.

Voici un exemple de prompt qui combine plusieurs de ces techniques :

Réponds uniquement à partir du rapport collé ci-dessous.
Pour chaque affirmation, ajoute une courte citation exacte du rapport qui l'étaye.
Si le rapport ne contient pas la réponse, écris "Non indiqué dans le rapport".
N'ajoute aucune référence ni aucun chiffre absents du rapport.

[collez le rapport ici]

Demander à un modèle de vérifier sa propre réponse précédente peut déceler certaines erreurs, mais cela peut tout aussi bien confirmer une fabrication. L'autovérification ne remplace pas l'ouverture de la source.

Quand la recherche web et les outils de récupération aident

De nombreux assistants peuvent désormais chercher sur le web ou lire les fichiers que vous importez avant de répondre. Cette approche, souvent appelée génération augmentée par récupération (RAG), donne au modèle un texte pertinent sur lequel s'appuyer au lieu de se fier à sa mémoire. Elle aide surtout pour :

les événements récents, les prix et les versions publiés après la date limite d'entraînement ;
les questions sur un document, un contrat, une politique ou un jeu de données précis que vous fournissez ;
les sujets de niche qui apparaissaient rarement dans les données d'entraînement.

L'ancrage réduit les sources inventées, car les citations renvoient à des pages réellement récupérées. Il ne garantit pas l'exactitude. La recherche peut renvoyer une page médiocre ou périmée, le modèle peut la résumer de travers, ou citer une vraie page à côté d'une affirmation qu'elle ne fait pas. Considérez les citations d'une réponse ancrée comme une liste de lecture à vérifier, pas comme une preuve.

Quand redoubler de prudence

Santé, droit et argent. Les erreurs ont un coût réel, et les règles varient selon les pays et évoluent avec le temps. Utilisez l'IA pour comprendre les questions, puis confirmez auprès des consignes officielles ou d'un professionnel qualifié.
Tout ce que vous publiez ou soumettez. C'est votre nom qui figure dessus, pas celui du modèle. Les éditeurs, les enseignants et les tribunaux tiennent l'auteur pour responsable des références fabriquées.
Les sujets de niche ou locaux. Moins un sujet a été traité en ligne, moins le modèle a de matière sur laquelle s'appuyer.
Les demandes très précises. Les numéros de page exacts, les références de jurisprudence, les articles de loi et les statistiques précises sont particulièrement sujets à l'invention.

Si vous relisez un texte écrit par quelqu'un d'autre et soupçonnez qu'il a été généré, notre guide sur comment savoir si un texte a été écrit par une IA traite de la détection et de ses limites, et le Détecteur d'IA peut fournir un signal de plus. Des références invérifiables constituent souvent une preuve plus solide que n'importe quel score de détecteur.

Questions fréquentes

Pourquoi ChatGPT invente-t-il des sources ?

Parce qu'il génère un texte qui ressemble à une réponse probable. Il a très bien appris le format des références : quand il n'a pas de vraie référence, il peut donc en produire une avec des auteurs, des titres et des identifiants plausibles qui ne correspondent à aucune publication réelle.

Comment vérifier qu'une référence donnée par une IA est réelle ?

Recherchez le titre exact sur Google Scholar ou dans un catalogue de bibliothèque, résolvez le DOI sur doi.org et confirmez que les auteurs, la revue et l'année correspondent. Lisez ensuite assez de la source pour confirmer qu'elle étaye l'affirmation. Un outil comme notre vérificateur d'hallucinations peut tester en masse les DOI, les ISBN, les identifiants arXiv et les liens.

Les IA récentes hallucinent-elles encore ?

Oui. Les modèles récents hallucinent généralement moins sur les questions courantes et savent mieux dire quand ils sont incertains, mais tous les modèles actuels peuvent encore produire des affirmations fausses, surtout sur des sujets de niche, des événements récents et des demandes de détails exacts.

La recherche web empêche-t-elle les hallucinations de l'IA ?

Elle les réduit, en particulier les sources inventées et les faits périmés, mais ne les empêche pas. Le modèle peut toujours mal lire ou déformer les pages qu'il a trouvées : ouvrez donc les pages citées et vérifiez.

Une hallucination est-elle un mensonge ?

Non. Un mensonge suppose l'intention de tromper. Un modèle n'a aucune intention ; il produit un texte fluide sans contrôle interne fiable de sa véracité. L'effet sur le lecteur peut être le même, et c'est pourquoi la vérification compte.

Tous les outils