Qu'est-ce qu'une hallucination d'un modèle IA et comment la limiter ?

Une hallucination est une réponse qui paraît sûre et plausible mais qui est fausse ou ne repose sur aucune source : une citation inventée, une étude qui n'existe pas, une date ou un prix erronés. Le modèle ne ment pas volontairement. Il produit la suite de texte la plus probable et, quand il ne sait pas, il devine souvent.

Dans un article publié en septembre 2025, des chercheurs d'OpenAI expliquent que l'entraînement et l'évaluation récompensent le fait de deviner plutôt que d'admettre une incertitude, comme un examen qui ne donne aucun point pour « je ne sais pas ».

Ce qui limite les hallucinations en pratique :

• autoriser explicitement le modèle à dire qu'il ne sait pas ;
• lui fournir le texte source et lui demander de répondre uniquement à partir de ce texte ;
• pour un long document, demander d'abord des citations mot pour mot, puis l'analyse ;
• exiger une source pour chaque affirmation et écarter celles qui n'en ont pas ;
• vérifier soi-même les noms, chiffres et dates avant de publier.

La recherche web et le RAG aident, mais ils déplacent le problème vers la qualité des sources sans le régler.