五步核查 AI 回答中的事实
这个方法适用于任何聊天机器人。普通回答只需几分钟，凡是会带来后果的内容都值得这样做。
挑出可核查的说法
人名、数字、日期、引语和引用文献。幻觉最常藏在这些地方，出错的代价也最高。
回到一手来源
法院数据库、官方统计数据、论文原文。第二个 AI 能缩小需要核查的范围，但不能替代原始来源。
确认引用文献真实存在
打开每一条参考文献，确认它确实存在，并且内容确实与回答所说的一致。
出现分歧就停下
如果两个模型在某个事实上意见不一，先核实再使用。涉及法律、医疗或财务工作时，还要加上具备资质的人工审核。
真实案例：未经核查的 AI 回答造成了哪些损失
诸如“全球损失 $67.4 billion”之类广为流传的数字，来自未公布方法的营销汇编，因此我们不予采用。以下案例均有公开记录。
在 Mata v. Avianca 一案中，律师们于 2023 年 3 月提交的文件引用了六个并不存在的法院判决。被问到这些判例是否真实时，ChatGPT 回答说是真的，可以在“LexisNexis 和 Westlaw 等权威法律数据库”中找到。2023 年 6 月，法官 P. Kevin Castel 称其中一份虚假判决书的法律分析是“胡言乱语”，并对律师及其律所处以 $5,000 罚款。
此后同样的模式一再上演，从法庭到咨询报告：AI 给出自信的回答，无人独立核查，最后公开更正。解决办法不是停止使用 AI，而是不再轻信单一、未经核查的回答。
AI 出现事实错误的频率有多高？
这在很大程度上取决于任务和模型。以下是两项有据可查的测量结果：
| 测试 | 幻觉率 | 说明了什么 |
|---|---|---|
| 具体法律问题 GPT-3.5、PaLM 2、Llama 2 · Stanford，2024 年 | 69–88% 在法院核心裁判要旨上至少 75% | 法律语言很容易模仿，因此编造的引用看起来很真实。 |
| 关于人物的问题（PersonQA） OpenAI o3 与 o4-mini 系统卡，2025 年 4 月 | o1：16% · o3：33% · o4-mini：48% | 较新的推理模型在简单事实上的幻觉可能更多，而不是更少。 |
请谨慎解读这些数字。两项测试都使用了高难度问题集，所用模型也已被替代，较新的模型在许多基准测试上表现更好。但任何公布的比率都无法告诉你，眼前这个回答是否正确。所以你要核查的是回答本身，而不是模型的名声。
简述：模型为什么会产生幻觉
语言模型不是数据库查询。它预测的是最可能出现的下一个词。在常见话题上，“看似合理”和“真实”通常是重合的。幻觉就出现在两者的缝隙中：冷门话题、训练截止日期之后的事件，以及具有熟悉格式的内容，比如判例引用，无论该判例是否真的存在。
这也是为什么问“你确定吗？”没有用。对这个问题最可能的回答就是“是的”。这种自信是生成出来的，而不是测量出来的。
为什么另一个家族的第二个模型有帮助
跨家族验证效果最好
2025 年 12 月一项关于 LLM 作为验证者的研究发现，跨模型家族的验证比自我验证或同家族内验证都更有效。在数学和逻辑任务上提升最大。
基准测试采用混合评审是有原因的
Google DeepMind 的 FACTS Grounding 基准测试用三个评审模型（Gemini 1.5 Pro、GPT-4o 和 Claude 3.5 Sonnet）为回答打分，以减少评审偏向自家模型家族回答的偏差。
训练不同，盲点也不同
同一厂商的模型共享训练数据和习惯，因此往往在同样的地方出错。另一家厂商的模型常常能发现第一个模型遗漏的问题，尽管并非总是如此。
MultipleChat Auto Verification 的工作原理
回答生成后，MultipleChat 可以自动使用 Google Gemini 对其进行事实准确性检查。检查会查找事实错误、过时信息和缺失的背景，然后在回答上显示一个标记。
你的模型给出回答
你像平常一样与 ChatGPT、Claude、Grok、Perplexity 或 Gemini 对话。回答会先送达，所以你不必等待检查完成。
Gemini 进行检查
Gemini 会收到你的原始问题和回答。它在一次调用中判断这类内容是否适合验证；如果适合，再判断哪些内容正确、存在哪些问题。
你会看到一个标记
未发现问题时显示 Verified，否则显示 Issues found 并附上对问题的简要说明。
智能跳过
在事实核查意义不大的情况下，验证会自动跳过，从而节省额度：
如何开启
Auto Verification 默认关闭。在消息框旁的工具菜单中开启 Auto-verify answers（付费套餐）。开启后，每个回答送达后都会立即接受检查，每次检查计为一条消息。
来源：MultipleChat 文档。当你直接与 Gemini 对话时，检查来自同一个模型家族。如需跨家族视角，请使用 Compare Mode。
实例演示：一条捏造的引用
这是一个示意性例子，展示的正是让 Mata v. Avianca 一案翻车的那种失误。下文中的案件名称均为本页虚构。
“请引用三个美国联邦判例，涉及国际航班人身伤害索赔中的衡平法时效中止。”
“三个相关判例是 Henderson v. KLM Royal Dutch Airlines, 412 F.3d 332 (2d Cir. 2005)；Cordova v. Avianca Airlines, 549 F. Supp. 2d 1208 (S.D.N.Y. 2008)；以及 Patel v. Air India, 627 F.3d 415 (9th Cir. 2010)……”
格式与真实引用一模一样，语气十分笃定。
“所引用的三个判例均无法确认，似乎是捏造的。在依赖任何引用之前，请先在法律数据库中核实。”
这个标记告诉你该去哪里查。确认法律依据仍然是你的工作，或者你律师的工作。
验证仍会失效的情况
共同的盲点
如果两个模型学到了同一个错误事实，检查者会确认它。跨家族检查能降低这种风险，但无法消除。
全新的信息
任何模型都无法验证它从未见过的事件。对于时效性事实，请使用网页搜索或带来源的 Research 模式。
程度上的误差
相比略有偏差的数字（例如实际为 26% 却写成 30%），检查者更能可靠地发现凭空捏造的事实。
何时开启 Auto Verification
| 使用场景 | 建议 | 原因 |
|---|---|---|
| 法律研究 | ✅ 开启，并配合法律数据库 | 捏造引用是记录最充分的失误类型。 |
| 医疗与健康问题 | ✅ 开启，并咨询临床医生或参考官方指南 | 错误可能造成伤害，而不仅仅是尴尬。 |
| 财务数据 | ✅ 开启，并对照申报文件或报告 | 数字很容易被自信地说错。 |
| 引用文献、统计数据、引语 | ✅ 开启 | 每一项都是可核查的说法。 |
| 人物、日期、历史 | ✅ 开启 | 即便是最新的推理模型，也经常在与具体人物相关的事实上出错。 |
| 代码 | ⏭️ 自动跳过 | 请直接运行并测试代码。 |
| 创意写作、观点、头脑风暴 | ⏭️ 自动跳过 | 真实性不是这里的衡量标准。 |
| 数学、操作指南、定义、语法 | ⏭️ 自动跳过 | 事实核查在这里作用不大。 |
为每个回答获取第二意见
与 ChatGPT、Claude、Grok 或 Perplexity 对话，让 Gemini 检查每个回答中的错误、过时事实和缺失背景。付费套餐可用。
常见问题
什么是 AI 事实核查工具？
AI 事实核查工具是第二个 AI 模型，在你采信某个答案之前，审查其中的事实错误、过时信息和缺失的背景。当核查模型与撰写答案的模型来自不同的模型系列时，效果最好。
如何对 AI 答案进行事实核查？
列出可核查的说法（姓名、数字、日期、引语和引用），让另一个系列的模型审查这些说法，或并排对比多个模型，然后到原始来源确认所有重要内容。凡是模型之间意见不一的地方，先核实再行动。
AI 能对自己的答案做事实核查吗？
效果很有限。一项 2025 年关于 LLM 验证器的研究发现，跨模型系列的验证比自我验证或同系列内的验证更有效。问一个模型“你确定吗”，它往往只会重复自己的答案。
MultipleChat Auto Verification 是如何工作的？
回复送达后，Gemini 会收到你最初的问题和答案。它在一次调用中判断这类内容是否适合验证；如果适合，再判断哪些内容正确、存在哪些问题。随后回复上会显示 Verified 标记，或带有简要说明的 Issues found 标记。
Auto Verification 默认开启吗？
不是。Auto Verification 默认关闭。在消息框旁边的工具菜单中打开“Auto-verify answers”（自动验证答案）即可；该功能仅限付费套餐。开启后，每个答案送达后都会立即接受核查，每次核查计为一条消息。
Auto Verification 会核查每一个答案吗？
不会。对于事实核查意义不大的内容，它会自动跳过，从而节省积分：简单的数学和计算、代码生成与调试、创意写作、观点与主观问题、操作说明，以及定义解释或语法帮助。
如果 AI 事实核查工具本身出错了怎么办？
有可能。当两个模型有相同的盲点时，它们可能以同样的方式出错，所以标记只是一个信号，而不是证明。对于你要发布、提交或据此行动的任何内容，都要到原始来源确认关键说法，并让人工审核者参与其中。
AI 幻觉造成过实际损害吗？
是的。在 Mata v. Avianca 案（2023 年）中，一名联邦法官对两名律师及其律所处以 $5,000 罚款，原因是他们提交的诉状引用了 ChatGPT 编造的六个并不存在的法院判决。2025 年，德勤澳大利亚同意部分退还一份政府报告的 A$440,000 费用，该报告中含有一段捏造的法院引语，以及对并不存在的研究论文的引用。
来源
- Mata v. Avianca, Inc., No. 1:22-cv-01461 (S.D.N.Y. June 22, 2023)，制裁裁定；据 ABA Journal 报道。
- Smith v. Farwell（Mass. Super. Ct., Feb. 2024）；据 Maryland State Bar Association 报道。
- Associated Press，"Deloitte to partially refund Australian government for report with apparent AI-generated errors"，2025 年 10 月 7 日（转引自 CTV News）。
- Dahl、Magesh、Suzgun 和 Ho，"Large Legal Fictions: Profiling Legal Hallucinations in Large Language Models"，Stanford RegLab 与 HAI，2024 年（摘要）。
- OpenAI，o3 与 o4-mini 系统卡，2025 年 4 月，PersonQA 评估（据 Techzine 报道）。
- Lu、Teehan、Jin 和 Ren，"When Does Verification Pay Off? A Closer Look at LLMs as Solution Verifiers"，arXiv:2512.02304，2025 年 12 月。
- Google DeepMind，"FACTS Grounding: A new benchmark for evaluating the factuality of large language models"，2024 年 12 月 17 日。
- MultipleChat 文档：Auto-Verification。