Une hallucination survient lorsqu'un modèle d'IA générative produit une affirmation qui semble plausible, formulée avec assurance, mais qui est factuellement fausse ou inventée. L'analogie la plus juste : un étudiant brillant qui, plutôt que d'avouer son ignorance lors d'un examen, improvise une réponse parfaitement rédigée — et entièrement fictive.
Pourquoi cela arrive-t-il ?
Un grand modèle de langage (LLM) ne « connaît » pas les faits : il prédit le mot le plus probable suivant, mot après mot. Son objectif d'entraînement n'est pas la vérité mais la vraisemblance statistique du texte. Formellement, le modèle maximise :
$$P(w_t \mid w_1, w_2, \dots, w_{t-1})$$
Rien dans cet objectif ne garantit la véracité : une phrase fausse peut être plus « fluide » qu'une phrase vraie. Le modèle comble alors les lacunes de sa mémoire par des interpolations plausibles.
Pourquoi est-ce un risque
- Confiance trompeuse : la réponse fausse est aussi assurée qu'une réponse correcte.
- Domaines critiques : santé, droit, finance — une citation juridique ou une référence scientifique inventée peut avoir de graves conséquences.
- Difficulté de détection : sans source, l'utilisateur ne peut pas distinguer le vrai du fabriqué.
| Type | Exemple |
|---|---|
| Fait inventé | Un article scientifique qui n'existe pas |
| Attribution erronée | Une citation prêtée au mauvais auteur |
| Détail fabriqué | Une date ou un chiffre précis mais faux |
Comment limiter le risque
Les approches les plus efficaces ancrent le modèle dans des sources vérifiables : le RAG (génération augmentée par la récupération), la vérification factuelle automatisée, et la citation systématique des sources.
Une IA éloquente n'est pas une IA fiable : exigez toujours ses sources.