端的な答え
はい、AI はあなたに嘘をつくことがあります。
故意にではありません。AI モデルには動機がないからです。しかし、事実や引用、判例をでっち上げ、自信に満ちた口調で示し、何かがおかしいという手がかりを一切残さないことがあります。その回答を頼りにする人にとって、それは嘘です。
主な原因はハルシネーションです。そのほか、一部は偏った伝え方、安全性を意識した回答、パーソナライズによるもので、メモリを持つアシスタントは、あなたについて知っている情報に合わせて回答を組み立てることがあります。対策はどの場合も同じです。1 つのモデルの 1 つの回答を最終結論にしないことです。
概要
流暢で自信に満ちているものの、誤っている回答。詳しい定義は AI 用語集をご覧ください。
起こる理由
モデルはありそうな言葉を予測し、推測することが評価されがちだからです。
見抜く方法
複数のモデルを照合し、すべての出典を開く。
現実に影響を及ぼした AI のハルシネーションの実例
これらは仮定の話ではなく、記録に残る事例です。いずれも AI の回答はプロらしく見えましたが、誤りであることが判明しました。
Mata v. Avianca：でっち上げられた判例
ニューヨークの人身傷害訴訟で、弁護士が ChatGPT のでっち上げた判例を引用した準備書面を提出しました。連邦判事は彼らに制裁を科し、$5,000 の罰金を命じました。
教訓：それらしく見える出典でも、実在する証拠にはなりません。
Google Bard の望遠鏡に関する誤り
宣伝用デモで、Bard は太陽系外の惑星を初めて撮影したのはジェイムズ・ウェッブ宇宙望遠鏡だと答えました。実際にはその画像は 2004 年に別の望遠鏡で撮影されたものです。その日、Alphabet の株価は 7.7% 下落しました。
教訓：提供元自身が披露する回答でさえ、誤っていることがあります。
Air Canada のチャットボットによる規定の説明
同航空会社の Web サイトのチャットボットは、身内を亡くした顧客に、忌引割引は旅行後に申請できると伝えました。実際の規定は違っていました。審判所は、チャットボットは独立した存在で責任は自らにあるという Air Canada の主張を退け、支払いを命じました。
教訓：AI の回答は公式の規定ページと照らし合わせて確認しましょう。
AI はなぜハルシネーションを起こすのですか？
簡単に言えば、言語モデルは次に来るべき文章を予測するのが非常に得意なツールです。データベースではありません。知らないことがあっても、そこで止まらずに、最ももっともらしく聞こえる回答を生成してしまうことがよくあります。
調べるのではなく、予測している。検索やあなたのファイルに接続されていない限り、モデルは学習で身につけたパターンから回答します。そしてパターンは間違っていることがあります。
まれな事実にはパターンがない。文法や一般常識は何百万もの文書で繰り返し登場します。しかし特定の人物の誕生日やマイナーな判決はそうではないため、モデルはその穴を埋めてしまいます。
推測が評価される。OpenAI の研究者は 2025 年、一般的な学習やベンチマークの採点では、まぐれ当たりの推測には点が与えられ、「わかりません」には何も与えられないため、モデルが自信のある回答に傾くと論じました（OpenAI）。
学習データは古くなる。価格、法律、製品名、人物は、モデルの学習データのカットオフ後にも変化します。
プロンプトが後押しすることもある。誘導的な質問（「…を証明している研究はどれ？」）や、モデルが持っていない出典を求める依頼は、でっち上げを招きます。
AI が誤解を招く原因はハルシネーションだけではない
誤った回答のほとんどはハルシネーションです。ほかにもいくつかの仕組みによって、技術的には弁解の余地があっても、結果的に誤った認識を与える回答が生まれます。
メモリを確かめるテスト用プロンプト
「私についての記憶がないものとして、この質問に答えてください。次に、私について知っていることを踏まえてもう一度答えてください。何が変わったのかを正確に示してください。」
AI のハルシネーションを見抜く方法
「本当に？」と聞くだけでは不十分です。モデルは 2 回続けて自信満々に間違えることがあります。会話の外側から回答を検証しましょう。
独立した複数のモデルで照合する
同じ質問を複数のモデルに送りましょう。一致しても証明にはなりませんが、食い違いがあれば、どの主張を確認すべきかがはっきりわかります。MultipleChat なら Auto Verification でこれを自動的に行えます。
すべての出典を開く
リンクをクリックし、引用箇所を探し、判例を読みましょう。出典が見つからない場合、その主張は未検証として扱ってください。
まっさらなコンテキストでもう一度質問する
メモリをオフにした新しいチャットを使いましょう。回答が大きく変わるなら、パーソナライズが影響していたということです。メモリなしで AI を使う方法をご覧ください。
重大な質問は専門家につなぐ
法律、医療、お金、安全、雇用に関しては、AI は出発点として使い、信頼できる情報源や有資格の専門家に確認してください。
MultipleChat の Compare Mode を使う
メモリに左右される関係なしに、最大 4 つの AI の回答を並べて確認できます。
Compare Mode は、同じ質問を複数の AI モデルに同時に送り、回答を並べて表示します。今後の回答に影響するメモリのプロファイルに、あなたの好みを保存することはありません。
まとめ
AI は嘘をつくことがあります。1 つの回答は事実ではなく、下書きとして扱いましょう。
AI のハルシネーションはまれな不具合ではなく、現在のモデルの既知の性質です。回答が重要なときは、行動する前にモデルを比較し、出典を開き、メモリなしで質問しましょう。
よくある質問
より安全なワークフローを試す
1 つの AI に現実を決めさせないでください。
MultipleChat の Compare Mode を使えば、異なる AI モデルから最大 4 つの回答を並べて得られ、意見が分かれる箇所からハルシネーションを見つけられます。
Compare Mode を有効にする