L’hallucination désigne un contenu généré qui n’est fidèle ni à l’entrée ni aux faits du monde réel. L’étude de Ji et al. (2023) distingue les hallucinations intrinsèques, qui contredisent la source, des hallucinations extrinsèques, invérifiables à partir de celle-ci, et recense leurs causes dans les différentes tâches de génération de langage naturel.
Les hallucinations surviennent parce qu’un modèle optimise des suites plausibles, et non la vérité. On les réduit — sans les éliminer — par l’ancrage dans des sources récupérées, un meilleur entraînement et la vérification.
Pourquoi c’est important chez MultipleChat
En comparant plusieurs modèles et en les ancrant dans des sources récupérées, MultipleChat fait ressortir les désaccords et signale les affirmations non étayées avant qu’elles n’atteignent l’utilisateur.