Hallucination

Une hallucination survient quand un modèle génère une information plausible mais fausse : une référence inventée, une date erronée, une citation qui n’existe pas. Le problème, c’est l’aplomb : la réponse est formulée avec la même assurance qu’un fait vérifié.

C’est une conséquence directe du fonctionnement par prédiction du mot suivant, qui privilégie la cohérence du texte sur sa véracité. Le RAG et un bon grounding — ancrer la réponse dans des sources fournies — aident à en limiter la fréquence, sans l’éliminer totalement.