大規模言語モデルはなぜ幻覚を起こす？AIの誤情報生成を解説

大規模言語モデル（LLM）は、人間が書いたかのような極めて自然で説得力のある文章を瞬時に生み出すことができます。日常的な調べ物からプログラミング、文章の要約や翻訳に至るまで、その利便性は広く知られるようになりました。しかし利用していると、もっともらしい口調で事実とは異なる説明を始めたり、実在しない論文やURLを自信たっぷりに提示したりする場面に遭遇することがあります。

このように、AIが客観的な事実や前提資料と異なる誤情報を生成する現象は、工学的に「ハルシネーション（幻覚）」と呼ばれています。

なぜ、高度な知識を持っているように見えるAIが初歩的な事実関係を間違えてしまうのでしょうか。それはAIが人間を騙そうとしているからでも、単に知能が足りないからでもありません。言語モデルが文章を紡ぎ出す統計的な仕組みと、その学習・評価設計そのものに原因があります。本稿では、ハルシネーションが発生する根本的な原理、よくある誤解、そして誤った情報に惑わされないための実践的な照合手順を分かりやすく解説します。

---

ハルシネーションとは何か――「悪意の嘘」ではなく工学的な事実逸脱

AIが事実と異なる文章を出力したとき、日常会話では「AIが嘘をついた」と表現されることがあります。しかし、技術的な観点から見ると、この表現には注意が必要です。

言語モデルにおけるハルシネーションとは、客観的な事実や与えられた参照資料からの逸脱・誤りを指す工学的な専門用語です。AIが人間のような主観的な意識、心、悪意、あるいは相手を欺こうとする意図を持って虚偽を生成しているわけではありません（Ji et al. 2022/2024）。

人間医学において「幻覚」とは外界に実在しない刺激を知覚する精神医学的な症状を指しますが、AI分野におけるハルシネーションは、現実世界に根拠を持たない内容をもっともらしく出力する様子をこの医学用語になぞらえた比喩的な呼称にすぎません。米国国立標準技術研究所（NIST）のガイドライン（NIST AI 600-1 §2.2）では、人間が記憶の欠落を無意識に創作で埋めてしまう心理現象にちなんで「作話（Confabulation）」という表現も併記されており、モデルに意図的な悪意がないことが前提とされています（NIST AI 600-1）。

学術的な研究では、ハルシネーションは主に2つの評価軸で分類・分析されます。

1つ目の評価軸は、「忠実性（Faithfulness）」と「事実性（Factuality）」の区別です。忠実性とは「プロンプトで与えられた文脈や指示、添付された参照資料の内容を正しく守っているか」という尺度であり、事実性とは「現実の客観的な世界知識や実在する資料と一致しているか」という尺度です。与えられた資料には忠実に従っているものの客観的事実には反している場合や、逆に常識としては正しいが指示された資料の記述を無視している場合など、両者は必ずしも一致しません。

2つ目の評価軸は、「内在的ハルシネーション（Intrinsic Hallucination）」と「外在的ハルシネーション（Extrinsic Hallucination）」の区別です。内在的ハルシネーションとは、提示された入力文章や参照資料の内容と直接矛盾する情報を出力してしまう誤りです。例えば、提供された資料に「売上高は前年比で5%減少した」と書かれているにもかかわらず、要約文で「売上高は5%増加した」と正反対の出力を生成してしまうケースがこれに当たります。これに対して外在的ハルシネーションとは、提示された資料の内容に直接矛盾はしていないものの、その資料からは直接裏付けられない推測や追加情報を勝手に付け足してしまう誤りを指します。資料に言及がない創業者の経歴や実験の目的などを推測で補ってしまうケースが代表例です。

このように、ハルシネーションは「AIの道徳的な問題」ではなく、入力と出力、参照情報と生成内容の間で発生する「情報の食い違いという工学的な現象」として捉える必要があります。

---

次トークン予測の仕組みと「文脈の自然さ」の追求

ハルシネーションが起こる根本的な原因を理解するには、大規模言語モデルがどのように文章を作っているのか、その基本的な仕組みを知る必要があります。

初期の批判において、言語モデルは「単語の並びを記憶しただけの単純な確率表」と見なされることがありました。しかし、近年の研究（例えば Petroni et al. 2019）が実証しているように、大規模な事前学習を経た言語モデルは、膨大なテキストの中に現れる単語同士の複雑な関係性や文法構造だけでなく、世界に関する多種多様な事実関係（知識）をパラメータの中に表現として獲得しています。モデルは決してデタラメに言葉を並べているわけではありません。

しかし、内部に知識を蓄えていたとしても、モデルを動かしているアルゴリズムはどこまでも「自己回帰型の次トークン予測」です。トークンとは、単語や文字の一部を区切った言語処理の最小単位です。言語モデルの役割は、「それまでに入力された文脈の並びを見て、その次に来る確率が最も高い（文脈上もっとも自然な）トークンを順番に1つずつ予測していくこと」にあります。

ここに、ハルシネーションを生む決定的な構造があります。「文章の続きとして文脈上自然な出力を生成すること」と、「その内容が客観的な実在資料と一致していること」は、全く別の処理課題だということです（NIST AI 600-1 §2.2, MS-2.5-003）。

モデルは文章を生成する際、数千から数万次元におよぶ膨大な文脈情報をもとに、語彙リスト全体に対して「次に来る確率分布」を計算します。例えば、モデルが「日本の首都は」という文脈を受け取ったとき、次のトークンとしてどのような候補があるかを計算します。ここで理解のために仮の確率を挙げると、次のような分布が考えられます（※注：これらは説明のための仮の確率であり、特定モデルの実測値ではありません）。

• 「東京」（確率 70%）
• 「日本」（確率 15%）
• 「江戸」（確率 5%）
• その他（確率 10%）

この場合、文脈上きわめて自然で頻出する「東京」が選ばれる可能性が高くなります。モデルは「東京が現在の日本の法律上・行政上の首都であるという客観的事実」を外部の辞書と照合して選んでいるのではなく、「この文脈の続きとして統計的に最も自然なトークン」として「東京」を導き出しています。

この違いは、学習データが少ない分野や、専門的で細かな事実を扱うときに顕著に現れます。例えば「〇〇研究所が2024年に発表した新素材の引張強度は」という問いに対し、学習データ内に十分な情報がなかった場合でも、モデルの処理は止まりません。モデルは「学術報告書で引張強度のあとに続きやすい数値や単位の並び」を計算し、文脈としていかにも論文らしく見えるトークン（例えば「〇〇メガパスカル」など）を次々に紡ぎ出します。文章の文法構造や語彙の選び方は完璧に学術論文の体裁を保っているため人間には信頼できるように見えますが、その数値自体は客観的な現実資料とは何の関係もない統計的な推測にすぎません。

さらに重要なのは、ハルシネーションが「ランダムな揺らぎ（Temperature設定など）」だけで起きるわけではないという点です。多様な表現を生むための確率的サンプリングを行わず、確率が常に最大のトークンだけを選ぶ決定論的な生成手法（greedy decoding）を採用したとしても、ハルシネーションは依然として発生します。学習データの偏りや文脈の誘導によって、モデルにとって「最も確率が高いと計算されたトークン」そのものが客観的事実と異なっている場合があるからです。

そして、一度事実と異なるトークンが出力されてしまうと、「自己回帰の連鎖」が起こります。モデルは自らが出力した過去のトークンを新たな文脈として入力に加え、次のトークンを予測します。つまり、最初に小さな誤りが混入すると、後続の生成はその誤りを「確定した前提」として展開されるため、誤った前提に辻褄を合わせるようにして架空の情報が雪だるま式に積み上げられていくのです。

---

なぜAIは自信満々に推測を語るのか――訓練の動機付けと設計

利用者を最も当惑させるのは、AIが誤った情報を出力する際に「おそらく〜かもしれません」と慎重に答えるのではなく、「〜です」「間違いありません」と極めて断定的な口調で語ることです。

一部では「言語モデルのアーキテクチャ上、モデルは回答を保留することが原理的に不可能なのだ」と説明されることがありました。しかし、近年の研究やモデル開発の実態を見れば、技術的に「わかりません」「情報が不足しています」と回答を保留する出力を生成させること自体は十分に可能です。

それにもかかわらず、なぜ多くのモデルが不確かな問いに対してもっともらしい推測を自信満々に語ってしまうのでしょうか。その背景には、モデルの訓練手法や評価基準における「設計上の動機付け（インセンティブ）」の問題が存在します（OpenAI 2025）。

言語モデルの開発では、大量のテキストを学習する「事前学習」のあとに、人間のフィードバックを用いた強化学習（RLHF）や指示チューニングが行われます。この工程では、人間の評価者や評価用AIがモデルの回答を比較し、「どちらがより優れているか」を採点してモデルを調整します。

この評価プロセスにおいて、次のような評価の偏りが生じやすいことが分かっています。

1. 推測への加点と保留への減点：人間は質問をしたとき、具体的な答えを得たいという心理が働きます。そのため、モデルが「その情報は把握していません」と正直に回答を保留すると「不親切で役に立たない回答」として低評価をつけがちです。一方で、自信ありげに詳細な説明を展開すると、たとえ細部に誤りが混ざっていても「親切で網羅的な回答」として高評価を与えてしまう傾向があります。
2. 断定的な文体の過剰学習：学習データに含まれる高品質な百科事典や学術書、解説記事は、その多くが明確な断定調で書かれています。「〜と思われる」といった曖昧な表現の連続よりも、整然と言い切る文章の方が「流暢で信頼性の高い文章」としてモデルに学習されやすいのです。

その結果、モデルは最適化の過程で「不確実であっても回答を保留するより、自信を持って推測を述べた方が人間から高いスコアを得られる」という行動パターンを学習してしまいます。モデルが自信満々に見えるのは、知識に確信を持っているからではなく、「断定的な口調で文章を完結させることが、学習目標に対して最も最適化された出力である」と計算されているからにすぎません。

文章の「流暢さ（文法や語彙の正しさ）」と「事実の正確さ」は全く別の次元の尺度です。どれほど論理的で説得力のある文章であっても、客観的事実に基づいていることの直接の証明にはならないという点を常に意識する必要があります。

---

模式図で見る生成経路と検証経路の違い

言語モデル単体の限界と、システム全体でハルシネーションに対処するアプローチを整理するために、情報処理の経路に注目してみましょう。

図の設計意図と読み取り方

上記の模式図は、AIが文章を生成する際の「モデル単体の生成経路」と、外部の知識源と照合を行う「システムレベルの検証経路」の違いを概念的に示したものです（※注：特定の製品の実装画面や実測データを表したものではなく、情報処理の構造を理解するための模式図です）。

この図を読み取る際は、「単体モデルの限界」「複合システムにおける改善策」、そして「複合システムであっても残る課題」の3段階に分けて整理することが重要です。

#### 1. 単体モデルの生成経路（自己回帰ループ） 図の左側に示されるのは、言語モデルが単体で動作する際の経路です。プロンプトを受け取ったモデルは、内部の重み（パラメータ）のみを参照し、次トークン予測を繰り返して文章を構築します。この閉じたループの中には、「現実の一次資料やデータベースと通信し、記述が正しいか突き合わせる」という照合ステップが存在しません。そのため、モデルの記憶があいまいな領域に入ると、統計的にもっともらしい言葉の連鎖によって誤情報がそのまま出力されてしまいます。

#### 2. システムレベルの照合・検証経路（RAG等の複合構成） 一方で、「AIには照合経路が絶対に存在しない」と決めつけるのも正確ではありません。現代の実用システムでは、言語モデル単体で完結させるのではなく、外部の検索エンジンや文書データベースと組み合わせた「複合システム（RAG: 検索拡張生成など）」が広く用いられています。図の右側に示される経路では、モデルが文章を生成する前、あるいは生成した後に、外部の信頼できるデータベースを検索し、得られた参照資料をモデルの文脈（コンテキスト）に注入して出力を制御します。これにより、単体モデルに比べて事実性の高い回答を得ることが可能になります。

#### 3. 照合経路を組み込んでもハルシネーションが残る理由 ただし注意しなければならないのは、「検索や照合の仕組みを導入すれば、ハルシネーションが完全にゼロになるわけではない」という点です。複合システムにおいても、次のような要因によって誤情報がすり抜けます。

• 検索資料の取得漏れ：検索エンジンの精度や検索キーワードの不一致により、質問の核心に答える正確な一次資料が検索結果に含まれなかった場合、モデルは不完全な情報から無理に推測を組み立ててしまいます。
• 文脈の要約誤り：正確な資料が取得できていたとしても、モデルがその文章を読み解いて要約するプロセスで、前述の内在的ハルシネーション（情報の取り違えや歪曲）を起こすことがあります。
• 主張と出典の対応付けの誤り：回答文の中に「［出典1］」などの引用記号が付与されていても、そのリンク先の内容が実は本文の主張と一致していないという「見かけ上の引用」が発生することがあります。

このように、照合経路の有無はシステム設計のレベルで区別して理解する必要があり、高度な複合システムであっても人間の目による最終確認を省略できない構造的理由が存在します。

---