幻觉（Hallucination）

幻觉是指生成内容与输入或客观事实不符。Ji 等人（2023）的综述将其区分为内在幻觉（与来源相矛盾）和外在幻觉（无法依据来源进行核实），并梳理了各类自然语言生成任务中幻觉产生的原因。

幻觉之所以出现，是因为模型优化的目标是生成看似合理的后续内容，而不是真实。检索增强、更好的训练和核查可以减少幻觉，但无法彻底消除。

对 MultipleChat 的意义

通过比较多个模型，并让它们以检索到的来源为依据，MultipleChat 能在内容到达用户之前揭示模型间的分歧，并标记缺乏依据的说法。