Une IA qui « hallucine » invente une information avec la même assurance qu’une information exacte : un chiffre, une citation, une source, une caractéristique produit. Ce n’est pas un bug rare, c’est une conséquence de la façon dont les modèles sont entraînés. On ne peut pas l’éliminer complètement, mais on peut la réduire fortement avec quelques garde-fous dans les prompts : fournir la matière, autoriser l’IA à dire « je ne sais pas », exiger des citations, interdire l’invention, séparer les étapes, faire vérifier, et garder un humain pour la relecture finale.
Une statistique parfaite pour illustrer un article. Une citation inspirante d’un dirigeant connu. Une étude au titre convaincant, avec un lien. Tout semble exact, bien présenté, sourcé. Sauf que la statistique n’existe pas, la citation n’a jamais été prononcée, et le lien mène vers une page introuvable.
C’est ce qu’on appelle une hallucination. Pour un usage personnel, c’est agaçant. Pour une entreprise qui publie, c’est un risque réel : de réputation, et parfois juridique. Et plus l’IA est intégrée dans la production de contenus, plus ce risque se multiplie.
Voici d’où viennent les hallucinations, les formes qu’elles prennent en marketing, et les sept garde-fous que j’intègre systématiquement dans les prompts de production.
Sommaire
Pourquoi les IA inventent
Un modèle de langage ne consulte pas une base de faits. Il produit, mot après mot, la suite la plus probable d’un texte. La plupart du temps, la suite la plus probable est aussi la bonne. Mais quand il ne sait pas, rien ne l’empêche de produire une réponse plausible plutôt qu’exacte.
En septembre 2025, des chercheurs d’OpenAI ont publié une explication éclairante (OpenAI) : les méthodes d’entraînement et d’évaluation des modèles récompensent la réponse au hasard plutôt que l’aveu d’incertitude. Comme un élève à un QCM sans points négatifs, un modèle a toujours intérêt à tenter une réponse plutôt qu’à dire « je ne sais pas ».
Leur exemple est parlant. Sur un même test de questions factuelles, un ancien modèle répondait juste dans 24 % des cas, mais se trompait dans 75 % des cas, en ne s’abstenant presque jamais (1 %). Un modèle plus récent, entraîné à reconnaître ses limites, avait un taux de bonnes réponses comparable (22 %), mais s’abstenait dans 52 % des cas, et ne se trompait plus que dans 26 % des cas.
La leçon pour nous, utilisateurs : un modèle se trompe moins quand on l’autorise à ne pas savoir. C’est le principe de plusieurs des garde-fous ci-dessous.
Les hallucinations typiques en marketing
| Type | Exemple | Risque |
|---|---|---|
| Statistiques | « 73 % des consommateurs préfèrent… », sans source réelle | Crédibilité, pratique commerciale trompeuse |
| Citations | Une phrase attribuée à un dirigeant ou un expert qui ne l’a jamais dite | Réputation, atteinte à l’image d’un tiers |
| Sources et liens | Une étude au titre plausible, une URL qui n’existe pas | Perte de confiance, liens cassés |
| Caractéristiques produit | Une compatibilité, une dimension ou une garantie inventée | Retours, litiges, avis négatifs |
| Promesses commerciales | « Livraison gratuite », « satisfait ou remboursé » non prévus | Engagement de l’entreprise |
| Faits sur l’entreprise | Une date de création, un nombre de clients, une certification | Information trompeuse sur soi-même |
Le point commun : ce sont presque toujours des détails précis. Les hallucinations se cachent rarement dans le raisonnement général, presque toujours dans les chiffres, les noms, les dates et les références. C’est donc là qu’il faut concentrer la vigilance.
Deux affaires publiques montrent ce que ça coûte quand personne ne vérifie. En 2023, à New York, deux avocats ont déposé devant un tribunal fédéral un mémoire citant des décisions de justice qui n’existaient pas : ChatGPT les avait inventées, références comprises. Le juge a demandé les textes, ils n’ont pas pu les produire, et les avocats ont été sanctionnés (CNBC).
En 2024, au Canada, l’assistant du site d’Air Canada a expliqué à un client qu’il pouvait demander un tarif réduit pour deuil après son voyage. C’était faux : la page officielle disait l’inverse. La compagnie a soutenu que son assistant était responsable de ses propres réponses. Le tribunal a rejeté l’argument et l’a condamnée à rembourser la différence (American Bar Association). Dans les deux cas, l’erreur portait sur un détail précis, une référence ou une règle, énoncé avec une parfaite assurance.
Qui est responsable ?
Deux affaires récentes répondent clairement à cette question.
Air Canada, 2024. Le chatbot du site indique à un client qu’il peut demander un tarif réduit pour deuil après son voyage. C’est faux : la politique de la compagnie ne le permet pas. Devant le tribunal, la compagnie soutient notamment que le chatbot est responsable de ses propres actes. Le tribunal de Colombie-Britannique rejette l’argument : le chatbot fait partie du site, et l’entreprise est responsable de toutes les informations qui y figurent (American Bar Association).
Deloitte Australie, 2025. Un rapport remis à un ministère australien, facturé 440 000 dollars australiens, contient des références inexistantes et une citation inventée attribuée à une décision de justice. Le cabinet, qui avait utilisé un outil d’IA générative, accepte de rembourser une partie du contrat et publie une version corrigée (The Register).
À retenir : l’IA n’est jamais responsable de ce que vous publiez. Une statistique inventée dans votre article, une promesse erronée dans votre chatbot ou une fausse caractéristique dans votre fiche produit engagent votre entreprise, comme si vous les aviez écrites vous-même.
Les 7 garde-fous
Ils s’appuient sur les recommandations d’Anthropic, l’éditeur de Claude, pour réduire les hallucinations (Anthropic), adaptées à la production marketing. Ils fonctionnent avec tous les grands assistants.
1. Fournir la matière, et limiter l’IA à cette matière
C’est le garde-fou le plus efficace. Au lieu de demander « écris un article sur la délivrabilité des emails », donnez à l’IA vos notes, vos chiffres, les pages officielles à utiliser. Puis dites-le explicitement :
Utilise uniquement les informations contenues dans les documents ci-dessous.
N'ajoute aucun fait, chiffre ou exemple provenant de tes connaissances générales.L’IA devient alors un rédacteur qui met en forme votre matière, pas un auteur qui comble les vides.
2. Autoriser explicitement « je ne sais pas »
Selon Anthropic, donner explicitement à l’IA la permission d’admettre son incertitude peut réduire considérablement les fausses informations. C’est la traduction directe des travaux d’OpenAI : si l’on ne pénalise plus l’abstention, le modèle invente moins.
Si une information te manque ou si tu n'es pas certain d'un fait,
dis-le clairement au lieu de proposer une réponse plausible.3. Exiger une source pour chaque affirmation
Demandez à l’IA d’associer chaque fait à sa source : un extrait mot pour mot du document fourni, ou une référence précise. Pour les documents longs, Anthropic recommande même de faire extraire les citations exactes avant de rédiger.
Pour chaque chiffre ou fait, indique entre crochets la phrase exacte
du document source dont il est tiré.Vous pourrez retirer ces crochets à la publication. Leur rôle est de rendre la vérification rapide.
4. Interdire l’invention des détails à risque
Nommez précisément ce que l’IA ne doit jamais inventer, et donnez-lui une alternative : un marqueur à la place de l’information manquante.
N'invente jamais de statistiques, de citations, de noms de personnes,
de titres d'études, d'URL ni de caractéristiques produit.
Si l'un de ces éléments serait utile mais que tu ne l'as pas,
écris [À COMPLÉTER : description de ce qu'il faudrait].Le marqueur est essentiel : sans alternative, le modèle a tendance à combler le vide quand même.
5. Séparer extraction et rédaction
Demander en une seule fois de lire dix pages, d’en tirer les faits et de rédiger un article multiplie les risques. Découpez :
- premier prompt : « Extrais de ces documents les faits, chiffres et citations utiles, avec la phrase source de chacun » ;
- vous relisez et validez cette liste ;
- second prompt : « Rédige l’article en utilisant uniquement cette liste validée ».
C’est un peu plus long, mais l’étape de validation intermédiaire est le meilleur point de contrôle de toute la chaîne.
6. Faire vérifier par l’IA elle-même
Après la rédaction, demandez une relecture critique ciblée. Anthropic recommande de faire vérifier chaque affirmation en cherchant une citation qui la soutient, et de retirer celles qui n’en ont pas.
Relis le texte ci-dessus. Pour chaque affirmation factuelle,
vérifie qu'elle est soutenue par les documents fournis.
Liste celles qui ne le sont pas et propose de les retirer ou de les reformuler.Une autre technique simple : lancer le même prompt deux ou trois fois et comparer. Les détails qui changent d’une version à l’autre sont souvent inventés.
7. Garder un humain pour la relecture finale
Aucune de ces techniques n’élimine complètement les hallucinations. Anthropic le dit lui-même : elles les réduisent fortement, mais les informations critiques doivent toujours être validées. Le dernier garde-fou n’est donc pas dans le prompt, il est dans votre processus : quelqu’un qui connaît le sujet relit avant publication.
Un prompt avant/après
Écris un article de blog de 1 000 mots sur l'intérêt de la fiche d'établissement Google pour les commerces, avec des statistiques et des exemples.Rédige un article de blog d'environ 1 000 mots sur l'intérêt de la fiche d'établissement Google pour les commerces.
Matière à utiliser exclusivement :
<documents>
[Notes internes, chiffres validés, extraits de l'aide officielle Google]
</documents>
Règles :
- n'utilise que les informations des documents ;
- n'invente aucune statistique, citation, étude, URL ni exemple d'entreprise ;
- si un exemple ou un chiffre serait utile mais manque, écris [À COMPLÉTER : …] ;
- pour chaque chiffre, indique entre crochets la phrase source ;
- si un point du plan ne peut pas être traité avec ces documents, signale-le.
Après la rédaction, ajoute une liste des affirmations à vérifier en priorité.Ce qui change : la première version invite l’IA à produire « des statistiques », ce qui revient presque à lui demander d’en inventer. La seconde lui donne la matière, lui interdit de sortir de ce cadre, lui offre une issue quand l’information manque, et prépare la vérification.
Ces garde-fous complètent un brief bien construit : voyez les 7 composants d’un prompt marketing efficace.
Le bloc anti-hallucination à copier
Voici le bloc que j’ajoute à la fin de mes prompts de production. Il se combine avec n’importe quel prompt existant.
RÈGLES DE FIABILITÉ
1. Utilise uniquement les informations fournies dans ce message et ses documents.
2. Si une information te manque ou si tu as un doute, dis-le clairement.
3. N'invente jamais : statistiques, citations, noms de personnes, titres d'études,
URL, dates, prix, caractéristiques produit, promesses commerciales.
4. À la place d'une information manquante, écris [À COMPLÉTER : …].
5. Pour chaque chiffre ou fait, indique entre crochets sa source dans les documents.
6. Termine par la liste des affirmations à vérifier avant publication.La relecture humaine : quoi vérifier
Inutile de tout relire avec la même intensité. Concentrez-vous sur les éléments où se cachent les hallucinations :
- Les chiffres : chaque pourcentage, montant, date ou quantité doit pouvoir être retrouvé dans une source.
- Les citations : toute phrase entre guillemets attribuée à quelqu’un doit être vérifiée dans sa source d’origine.
- Les liens : cliquez sur chacun. Une URL plausible n’est pas une URL existante.
- Les noms propres : personnes, entreprises, produits, études, lois.
- Les promesses : tout ce qui engage l’entreprise (délais, garanties, prix, conditions).
- Les marqueurs [À COMPLÉTER] : aucun ne doit rester dans la version publiée.
Une recherche web activée dans l’assistant peut aider, mais elle ne remplace pas cette relecture : les IA peuvent aussi mal interpréter ou mal résumer une source réelle. Ce qui compte, c’est que quelqu’un ait vu la source.
Les erreurs à éviter
- Demander « avec des statistiques » sans fournir de statistiques.
- Faire confiance à une source parce qu’elle a l’air sérieuse. Un titre d’étude crédible et une URL bien formée sont exactement ce qu’une hallucination produit.
- Utiliser un chatbot client sans base de connaissances validée ni consignes strictes. Ce qu’il promet engage l’entreprise.
- Automatiser la publication sans contrôle : plus le volume augmente, plus une erreur se répète.
- Penser que le modèle le plus récent n’hallucine plus. Il hallucine moins, pas jamais.
En résumé
Les hallucinations ne sont pas un défaut passager : elles découlent de la façon dont les modèles apprennent à répondre. On ne les supprime pas, on les encadre. Les sept garde-fous reposent sur une même idée : donner à l’IA la matière, l’autoriser à dire quand elle ne sait pas, et rendre chaque affirmation vérifiable.
L’IA peut écrire vite et bien. Elle ne peut pas porter la responsabilité de ce qui est publié. Cette responsabilité reste la vôtre, et une relecture ciblée de dix minutes est le meilleur investissement de toute la chaîne.
FAQ
Qu’est-ce qu’une hallucination de l’IA ?
C’est une information inventée par un modèle d’IA et présentée avec la même assurance qu’une information exacte : un chiffre, une citation, une source, une date ou une caractéristique qui n’existe pas. Les hallucinations se cachent surtout dans les détails précis.
Pourquoi les IA hallucinent-elles ?
Un modèle de langage produit la suite de texte la plus probable, sans consulter une base de faits. Selon des chercheurs d’OpenAI, les méthodes d’entraînement et d’évaluation récompensent les réponses tentées plutôt que l’aveu d’incertitude, ce qui pousse les modèles à deviner quand ils ne savent pas.
Comment éviter que ChatGPT invente des informations ?
Fournissez vous-même les faits et documents, demandez à l’IA de n’utiliser que ces informations, autorisez-la explicitement à dire quand elle ne sait pas, exigez une source pour chaque affirmation et interdisez l’invention de chiffres, de citations et d’URL. Une relecture humaine reste indispensable.
Les hallucinations peuvent-elles être totalement éliminées ?
Non. Les techniques de prompt les réduisent fortement, mais aucune ne les élimine complètement. Les informations importantes, en particulier les chiffres, les citations, les liens et les promesses commerciales, doivent toujours être vérifiées par une personne avant publication.
Une entreprise est-elle responsable des erreurs de son chatbot ?
Dans l’affaire Moffatt contre Air Canada, en 2024, un tribunal canadien a jugé que l’entreprise était responsable des informations fournies par le chatbot de son site, au même titre que celles de ses autres pages. Ce qu’affirme un outil d’IA publié par une entreprise engage l’entreprise.
La recherche web dans les assistants IA supprime-t-elle les hallucinations ?
Elle les réduit en donnant au modèle des sources réelles, mais elle ne les supprime pas : l’IA peut mal interpréter une source, la résumer de façon inexacte ou citer une page qui ne dit pas ce qu’elle affirme. Il faut toujours vérifier les sources citées.
Vous avez vos propres garde-fous contre les hallucinations ? Partagez-les sur LinkedIn.
Sources
- OpenAI : pourquoi les modèles de langage hallucinent (septembre 2025)
- Anthropic : réduire les hallucinations
- American Bar Association : l’affaire Moffatt contre Air Canada
- The Register : Deloitte rembourse un rapport contenant des erreurs générées par IA
- CNBC : ChatGPT invente des décisions de justice citées devant un tribunal fédéral
- American Bar Association : l’affaire Moffatt contre Air Canada
