Hallucination
Situation où le modèle affirme avec conviction une fausseté - date inventée, citation, source. Vérifiez donc les faits.
L'hallucination est une situation dans laquelle le modèle affirme avec conviction une fausseté : date inventée, livre inexistant, citation ou disposition légale fabriquée. Ce n'est pas un « mensonge » - le modèle ne connaît pas le concept de vérité, il génère du texte statistiquement probable, et le probable peut être faux. Les hallucinations constituent la principale faiblesse des modèles linguistiques dans les applications factuelles. Le grounding et le RAG, les modes avec recherche et la demande de sources les limitent - mais aucune technique ne les élimine complètement. Règle pratique : plus la décision est importante, plus vous devez vérifier solidement la réponse.