AIハルシネーションとは？なぜ起きるのか

ハルシネーションとは、たまたま誤っていた尤もらしい答えである

言語モデルに、読んだことはあっても実際には見たことのない本の中の引用がある章、そのページ番号を尋ねてみてください。すると番号を答えます。「それはわかりません」とは言いません。その番号は正しい形式で、学習データにある他のどの引用文とも同じように自然な文の中に収まっており、そして作り話です。

これがハルシネーションです。流暢で自信に満ちた発言でありながら、その裏には事実が何もない。この言葉自体はやや誤解を招く比喩で、実際には何も故障していません。モデルは引用文の続きとして最も尤もらしいものを求められ、それを生成しただけです。最も尤もらしく聞こえる答えが同時に真実でもある質問、つまりほとんどの質問において、この同じ仕組みこそがモデルを役立つものにしています。

その現れ方は予測可能です。存在しない参考文献やURL、出典のない統計、実際には言っていない発言を実在の人物に帰する引用、存在しない製品機能、そして確定した事実であるかのように語られる法律や医療の主張です。AIが間違える理由では各パターンの見抜き方を扱っています。このページではなぜそもそも起きるのかを取り上げます。

インターネット全体を読んだはずのモデルが、なぜ作り話をするのか

仕組みは2つあり、それらが重なり合います。

モデルは予測するのであって、検索するのではありません。言語モデルには事実の索引がありません。読んだものはすべてパラメータの中に圧縮されており、回答時にはその圧縮情報から1トークンずつ、確率に基づいて選びながら文章を再生成します。真の答えが学習データの中でよく見られたものであれば、確率の高い続きは真実と一致します。まれであったり、存在しなかったり、矛盾していたりする場合でも、モデルは何らかのトークンを選ばなければならず、尤もらしいものを選びます。LLMとは何かではその仕組みを説明していますが、要点は、自分が書いている文が現実に即しているかどうかをモデル自身が確認するステップは存在しない、ということです。

学習が推測を評価してしまいます。2025年9月、OpenAIは「言語モデルはなぜハルシネーションを起こすのか」と題した論文を発表し、モデルを評価するベンチマークが誤答と無回答を同じくゼロ点として扱う一方、まぐれ当たりの推測には満点が与えられると指摘しました。そのような採点基準に最適化されたモデルは、誤答に減点のない多肢選択式のテストを受けた学生が学ぶのと同じ教訓、つまり「常に推測せよ」を学習してしまいます。この論文の提案は、「わからない」と答えることが自信満々の外れよりも高く評価されるよう採点方法を変えることです。

ハルシネーションに実際の金額の代償を課した2件の裁判

Mata対Avianca航空事件、ニューヨーク、2023年。2人の弁護士が、ChatGPTが作成した6件の判例を引用した準備書面を提出しました。その6件はすべて実在しませんでした。裁判官は2023年6月に弁護士らに$5,000の制裁金を科し、架空の意見が帰せられた各裁判官に説明の書簡を送るよう命じました。弁護士の宣誓供述書に添付されたスクリーンショットには、彼がChatGPTにその判例が実在するか尋ね、ChatGPTが実在すると確認していた様子が写っていました。

Moffatt対エア・カナダ事件、ブリティッシュコロンビア州、2024年。エア・カナダのウェブサイトのチャットボットは、ある顧客に対し、葬儀のために正規料金の航空券を予約した後でも忌引き割引を申請できると案内しました。実際の同社の規定は正反対でした。エア・カナダがチャットボットは自らの発言に責任を持つ別個の法人格であると主張したところ、民事解決審判所は2024年2月にこれを退け、同社にC$812.02の支払いを命じました。

どちらのモデルも壊れていたわけではありません。それぞれが、自らの手の届かない真の答えを持つ質問に対して、最も尤もらしく聞こえる答えを生成しただけです。代償を払ったのは、確認をしなかった人でした。

ハルシネーションは4つの失敗パターンの1つであり、対策はそれぞれ異なる

人はあらゆる誤答をこの言葉で呼びますが、それによって4つのよくある失敗にそれぞれ異なる原因があるという事実が見えにくくなっています。

厳密な意味でのハルシネーションに当たるのは最初の行だけです。2行目と3行目はグラウンディング（根拠づけ）の問題であり、モデルに読ませるものを与えることで大部分が解決します。4行目はプロンプトの問題です。この4つをすべて1つの謎の欠陥として扱うと、たいてい「もっと大きなモデルを使う」という誤った対策にたどり着きますが、それは1行目に対してはほとんど効果がありません。

2モデルチェックとそのコスト

厳密な意味でのハルシネーションに対して最も信頼できる習慣は、別の異なるモデルに同じ質問をして比較することです。異なる研究機関の、異なるデータで異なる事後学習を経た2つのモデルが、同じ引用を作り話することはまずありません。両者が一致することは、その事実が本物である弱い証拠になります。両者が食い違うことは、行動する前に確認すべきだという強いシグナルです。

「同じモデルにもう一度確認させる」ではうまくいかない理由がここにあります。同じモデルによる2回目の試行は、同じ予測器が同じ圧縮情報から再び推測しているだけです。異なるモデルは異なる圧縮情報を持っています。

セカンドオピニオンは高価なモデルである必要はありません。2026-09-17時点で読み取ったArtificial AnalysisのIntelligence Index、公開されている推論・コーディング・知識のベンチマークを組み合わせた指標では、DeepSeek V4 Flashが40点でメッセージあたりWhiziクレジット1、Claude Sonnet 5が38点で10です。点線はフロンティア、つまり各価格帯での最高スコアを示し、その線上の各点は異なる研究機関のものです。1クレジットと10クレジットのモデルによるクロスチェックは合計11クレジットで済み、サイドバイサイド表示なら1つの質問を両方に送って1画面で比較できます。Mata対Avianca航空事件の弁護士たちは、行わなかったそのチェックに$5,000を支払いました。

ハルシネーションを減らす方法、効果の大きい順に

1. グラウンディング（根拠づけ）。 Web検索、アップロードした文書、貼り付けた情報源は、タスクを「記憶から思い出す」ものから「読んで要約する」ものへと変えます。モデルはこちらの方がはるかに信頼できます。これが最も大きな効果を持つ対策であり、プロンプトの工夫ではなく製品側の設定です。
2. 別のモデルを使う。 学習内容が異なれば失敗のパターンも異なります。捏造された具体的な情報の大半を捕捉できます。
3. 出典を求めて実際に開く。 引用を求められたモデルは引用を出しますが、確認すべきはその出典が実在し、答えが主張する内容を実際に述べているかどうかです。
4. 「わからない」と言ってよいと伝える。 「確信が持てない場合はそう言ってください」と伝えると、最も尤もらしい続きが変わり、難しい質問ではモデルが作り話をする代わりに答えを保留することが増えます。
5. より大きなモデルを使う。 フロンティアモデルは一般的な知識に関しては小規模なモデルよりハルシネーションが少ないものの、その差はまれで具体的な事実に関して最も小さくなります。まさにそこが重要なのに。

この順番こそが要点です。多くの人はまず5番目に手を伸ばしますが、それはこのリストの中で最も効果の弱い対策です。