Hallucination (IA)
Une hallucination désigne une réponse d'un modèle d'IA générative qui paraît plausible mais contient des informations fausses, inventées ou non fondées.
Définition
En IA générative, on parle d'hallucination lorsqu'un modèle produit un contenu erroné, inexact ou sans fondement tout en le présentant avec assurance : une source qui n'existe pas, un chiffre inventé, une fonctionnalité qui n'existe pas, une citation déformée. Ce phénomène vient du fonctionnement même des grands modèles de langage, qui génèrent le texte le plus probable plutôt que de vérifier des faits dans une base de connaissances. Il est plus fréquent lorsque la question dépasse ce que le modèle a appris, porte sur des événements récents ou demande des détails très précis. Les éditeurs recommandent plusieurs parades : fournir des documents de référence et demander au modèle de s'y limiter, l'autoriser à répondre « je ne sais pas », exiger des citations vérifiables, demander une vérification en plusieurs étapes et garder une relecture humaine. Les architectures RAG réduisent le risque sans l'éliminer. Aucune technique actuelle ne le supprime complètement, ce qui impose un contrôle proportionné aux enjeux de chaque usage.
Catégorie
Fondamentaux
Synonymes
hallucination de l'IA, confabulation, AI hallucination
Avantages
- Le concept aide à adopter une démarche de vérification systématique
- Les parades connues (RAG, citations, relecture) améliorent nettement la fiabilité
- Savoir les repérer permet de limiter l'IA aux usages adaptés
Limites
- Impossible à supprimer totalement avec les techniques actuelles
- Difficile à détecter car la formulation reste fluide et assurée
- Peut engager la responsabilité de l'entreprise si l'erreur est publiée ou transmise à un client
Exemples concrets
Découvrez comment ce concept s'applique dans la réalité
Un assistant cite un article de loi ou une jurisprudence qui n'existe pas
Un chatbot annonce une promotion ou une politique de retour inexistante
Un résumé attribue à un document une conclusion qu'il ne contient pas
Applications pratiques
Secteurs et domaines où ce concept est utilisé
Service client : encadrer les réponses par des sources validées
Juridique et conformité : vérification obligatoire des références citées
Rédaction : relecture factuelle avant publication
Évaluation de modèles : tests de fiabilité avant mise en production
Questions fréquentes
Réponses aux questions les plus courantes sur ce concept
Pourquoi une IA invente-t-elle des informations ?
Parce qu'un modèle de langage génère la suite la plus probable d'un texte, sans vérifier systématiquement les faits. Il peut donc produire une réponse plausible mais fausse.
Comment réduire les hallucinations ?
En fournissant des sources fiables au modèle (RAG), en lui permettant de dire qu'il ne sait pas, en demandant des citations vérifiables et en relisant les résultats.
Le RAG supprime-t-il les hallucinations ?
Non, il les réduit en ancrant la réponse dans des documents, mais le modèle peut encore mal interpréter ou extrapoler.
Toutes les IA hallucinent-elles ?
Les modèles génératifs sont tous exposés à ce risque à des degrés variables, selon le modèle, la tâche et la manière dont il est utilisé.
Quel risque pour une entreprise ?
Erreur d'information auprès d'un client, décision fondée sur de fausses données, contenu publié inexact ou atteinte à la réputation.
Source et références
Source : Anthropic – Documentation : Reduce hallucinations
Voir la sourceTermes associés
Des définitions pour approfondir ce concept
Envie d'approfondir vos connaissances en IA ?
Découvrez tous nos termes et concepts dans le lexique complet