Als Halluzination bezeichnet man generierte Inhalte, die der Eingabe oder den Fakten der Welt nicht treu sind. Der Überblick von Ji et al. (2023) unterscheidet intrinsische Halluzinationen, die der Quelle widersprechen, von extrinsischen, die sich anhand der Quelle nicht überprüfen lassen, und katalogisiert ihre Ursachen über verschiedene Aufgaben der natürlichsprachlichen Generierung hinweg.
Halluzinationen entstehen, weil ein Modell auf plausible Fortsetzungen optimiert, nicht auf Wahrheit. Durch Verankerung in abgerufenen Quellen, besseres Training und Verifizierung werden sie reduziert – aber nicht beseitigt.
Warum das bei MultipleChat wichtig ist
Indem MultipleChat mehrere Modelle vergleicht und sie in abgerufenen Quellen verankert, macht es Widersprüche sichtbar und markiert unbelegte Behauptungen, bevor sie bei Ihnen ankommen.