ハルシネーションの仕組み・原因｜なぜAIは間違えるのか、学習・評価・生成の3段階で解説

この記事は、ハルシネーションがなぜ起きるのかという仕組みと原因に絞って説明します。意味や種類を基礎から知りたい方はハルシネーションとは？原因・種類・事例・対策をわかりやすく解説、実際の失敗例はハルシネーションの事例、防ぎ方の手順はハルシネーション対策プロンプト集をご覧ください。

ハルシネーションの原因をひとことで：事実を確かめる工程が文章生成にないから

ハルシネーションは「たまに起きるバグ」ではなく、大規模言語モデル（LLM）の作り方と動かし方から生じる性質です。LLMは「これまでの文章に続く、もっともらしい次の語」を選び続けて文章を作ります。この途中に「その内容は事実か」を確かめる工程はありません。原因は、次の3つの段階に整理できます。

段階	主な原因	利用者が直せるか
学習データ	偏り・誤情報の混入・ニッチな分野の不足、学習時点以降の情報がない	直せない（資料を渡して補える）
学習と評価の方法	次の語の予測という目的、「分からない」より推測が得をする採点、迎合、過学習	直せない（モデルの選び方で差が出る）
生成（推論）	確率的な語の選び方、長い文脈での注意の弱まり、自分の誤りが後ろへ波及	一部は直せる（温度・区切り方）

誤りを減らすために使えるプロンプトの書き方は、ハルシネーション対策プロンプト集で解説しています。

関連記事ハルシネーションの精度を測る方法は？

「幻覚」と呼ばれる理由と別の呼び方

ハルシネーション（hallucination）は、もともと精神医学で「実際には存在しない知覚を本物として体験する症状」を指す「幻覚」の意味です。AIの出力が「見えるはずのないものが見える」状態に似ているため、自然言語処理の研究コミュニティが転用しました。日本語では「幻覚」のほか「作話（confabulation）」「でたらめ」とも呼ばれます（Wikipedia日本語版「ハルシネーション (人工知能)」）。比喩であって、AIに主観的な体験があるという意味ではありません。

ハルシネーションの定義と分類：原因を考える前に押さえる2種類

ハルシネーションとは、AIモデルが事実に基づかない情報を、あたかも正確であるかのように自信をもって出力する現象です。単純な間違いと違い、モデル自身は誤りを認識していません。研究では大きく2種類に分けます。

種類	概要	典型例
内在的（Intrinsic）	与えられた資料や文脈と矛盾する情報を生成する	資料に書かれていない事実を「書いてある」と要約する
外在的（Extrinsic）	資料からも検証できない情報を追加・創作する	実在しない論文のタイトル・DOI・著者名を生成する

資料を渡す使い方（要約・社内文書への質問）では内在的な誤りが、資料なしで質問する使い方では外在的な誤りが問題になります。原因も、この2つで効く層が変わります。

LLMの基本構造：確率的な文章生成がすべての起点

トークン予測という仕組み

LLMはテキストをトークン（単語や文字の断片）に分け、「ここまでのトークン列に続く次のトークンは何か」という確率を計算し続けます。文章全体の意味を理解して書いているのではなく、統計的にもっともらしい続きを選んでいます。

Transformerとアテンション機構

現代のLLMはほぼすべてTransformerという構造を使います。核になる自己注意（Self-Attention）は、トークン同士の関連度を重み付けして文脈をつかむ仕組みです。数百億〜数兆のパラメータに圧縮された知識は、学習データに何度も出てきたパターンほど強く、稀なパターンほど曖昧に覚えられます。ニッチな専門知識や最新情報で誤りが出やすいのはこのためです。

ハルシネーションが起きる5つのメカニズム

① 学習データの偏りと欠け

LLMはインターネット上の文章を大量に学びますが、そのデータは偏っています。

• 英語など主要言語のデータが多く、日本語の専門知識は薄くなりやすい
• フィクション・誤情報・古い情報が混ざっている
• 医療・法律・最新ニュースなどは記述が少なく、誤った一般化が起きやすい

見たことの少ない話題では、既存のパターンをつなぎ合わせた「それらしい話」で空白を埋めます。OpenAIの研究者らの論文（Kalai ほか, 2025, arXiv:2509.04664）は、特定の人の誕生日のように規則性がなく、学習データに数回しか出てこない事実は、パターンから推測できずハルシネーションの典型になると説明しています。学習データに1回しか出てこない事実の割合が、誤りの下限の目安になるとも述べています。

② 目的関数と評価の限界：「正確さ」でなく「らしさ」と「推測の得」

事前学習の目的は次のトークンの予測誤差を小さくすることです。「人が受け入れやすい文章」と「実際に正確な文章」は一致しません。さらに同論文は、学習後の評価の仕組みが「分からない」と答えるより推測して答えることに報酬を与えていると指摘します。試験で空欄が0点になるのと同じで、日付を当てずっぽうで答えれば365分の1で当たる可能性があるのに対し、「分かりません」は確実に0点です。正答率だけで順位を付けるベンチマークでは、慎重なモデルより推測するモデルのほうが高く評価されてしまいます。論文は、誤答と無回答を区別して採点する形に評価を改めることを提案しています。

③ 知識カットオフとリアルタイム情報の欠如

LLMには学習データの締め切り日があり、それ以降の出来事は知りません。それでも「知らない」と判断する仕組みを持たないため、古い情報や、もっともらしい補完で答えます。最新の制度・価格・人事などで誤りやすい理由です。検索機能つきのAIや、最新の資料を渡す方法（RAG）で補えます。

④ デコーディング（語の選び方）の影響

文章を作るときの語の選び方の設定も、誤りの出やすさに影響します。

設定	高いとき	低いとき	ハルシネーションとの関係
Temperature	多様・創造的な出力	確定的・保守的な出力	高いほど増える傾向
Top-p	低確率の語も選ぶ	高確率の語だけ選ぶ	高いほど意外な誤りの危険が増す
Greedy decoding	―	常に最高確率を選ぶ	単調になるが事実誤りは比較的減る

Huangほかの体系的な整理（”A Survey on Hallucination in Large Language Models”, ACM Transactions on Information Systems）も、多様性を高める確率的サンプリングは誤りの危険と正の相関があると述べています。事実確認の用途では温度を低めにするのが基本です。

⑤ 学習方法に由来する原因：片方向の予測・露出バイアス・過学習・迎合

同じ整理論文は、モデルの作られ方に由来する原因も挙げています。

原因	何が起きるか（同論文の説明）
片方向の予測学習	前の語だけから次の語を予測する方式のため文脈の複雑な依存関係を捉えにくく、系列が長いほど注意が薄く分散する
露出バイアス	学習時は正しい文の続きを予測するが、生成時は自分が出した語の続きを作る。途中の誤りが後ろへ雪だるま式に広がる
追加の事実学習による過学習	指示調整（SFT）で新しい事実を覚えさせると、新しい事実を学ぶほど誤りが増える傾向が報告されている
人の好みへの迎合	人の評価で調整したモデル（RLHF）は、正しい答えより利用者の意見に合う答えを返す傾向が見られる

指示の出し方が原因になる：あいまいな指示と誤った前提

モデルの内部だけでなく、入力する側の書き方も誤りの原因になります。

• あいまいな指示：「詳しく」「正確に」とだけ頼むと、何を根拠にどこまで答えてよいかが決まらず、モデルは空白を自分で埋めます。
• 誤った前提を含む質問：質問に事実と違う前提が入っていると、前提を疑わずそれに合わせた答えを作りがちです。たとえば「江戸時代の人物が最新のスマートフォンで撮った写真について教えて」のような質問に、もっともらしい説明を返してしまいます（説明のための例です）。

対策は、条件（対象・期間・根拠にする資料）を具体的に書くこと、「前提が正しいかを先に確認して」と頼むこと、「分からなければ分からないと答えて」と明示することです。具体的な書き方はハルシネーション対策プロンプト集に雛形があります。

長い文脈と「中間忘れ」問題

一度に処理できるトークン数（コンテキストウィンドウ）が広がっても、長い入力の中ほどにある情報は使われにくいことが研究で示されています。Liuほか「Lost in the Middle: How Language Models Use Long Contexts」（TACL, 2023）は、関連情報が入力の先頭か末尾にあるときに正答率が最も高く、中ほどにあると、長い入力向けに作られたモデルでも大きく下がると報告しました。長い資料を丸ごと渡すより、関連箇所だけを抜き出して渡すほうが安全です。

モデルの「自信」とキャリブレーション問題

ハルシネーションを扱いにくくしているのは、誤りでも高い確信を示すことです。理想は「確信度80%の回答が約80%の確率で正しい」状態（キャリブレーション）ですが、実際にはずれます。Kadavathほか「Language Models (Mostly) Know What They Know」（2022）は、大きなモデルは選択式・正誤式の質問で比較的よく校正されていると報告していますが、これは質問の形式を整えた条件での結果です。自由記述で長い文章を書く実際の使い方では、言い回しの自信と正しさは一致しません。上の迎合の傾向もあり、「はっきり答える」回答が好まれて断定口調が強まる点には注意が必要です。

RAGはハルシネーションを解決するか

RAG（検索拡張生成）は、信頼できる文書を検索して渡し、それを根拠に答えさせる方法です。誤りを大きく減らせますが、ゼロにはなりません。

• 検索の外れ：必要な文書を取り損ねると、根拠のないまま答えを作る
• 読み違え：取れた文書を誤って読む、文書にない追加情報を根拠があるように付け足す
• 知識との競合：検索結果と学習済みの知識が矛盾したとき、折衷した誤答を出すことがある

スタンフォード大学などの研究チームが法律分野の有料AI調査ツール（Lexis+ AI・Westlaw AI-Assisted Research・Ask Practical Law AI）を検証したところ、いずれも17%から33%の割合でハルシネーションを起こしたと報告されています（Magesh ほか, 2024, arXiv:2405.20362）。RAGは「根絶の手段」ではなく「リスクを下げる手段」です。

原因が表に出た実例

実際の事例も、上の原因に当てはめて読めます（出典と詳しい経緯はハルシネーションの事例）。

事例	起きたこと	主な原因の層
米国の弁護士が提出した架空の判例（2023年）	存在しない判例を、判事名や引用つきの体裁で提出	推測が得な評価・学習データの欠け（引用の捏造）
Air Canadaのチャットボット（2024年）	実際の規定と違う運賃を案内	根拠の資料に縛られていない生成
Google検索「AI Overviews」（2024年）	掲示板の投稿や風刺記事を事実のように回答	学習データ・参照元の誤りや偏り

モデルごとの傾向の違い

誤りの出方は、モデルの構造、学習データの量、人の評価による調整の設計で変わります。「このモデルなら起きない」という安全なモデルはありません。使うモデルの公式情報で、不確かなときの振る舞いを確認してください。モデルの比較はLLMの比較記事を参照してください。

原因別に見る対策：どの層にどの手を打つか

原因	効く対策	詳しくは
学習データの欠けと古さ	RAG、最新の資料を渡す	対策プロンプト集
推測が得になる学習・評価	「分からなければ不明」を明示、出典を要求	対策プロンプト集
確率的な語の選び方	温度を下げる、事実系と創造系を分ける	対策プロンプト集
自信のずれ・残る誤り	出力の検証、一次資料との照合	検出・評価

よくある質問

ハルシネーションはなぜ起きるのですか？

大規模言語モデルが「次に来る確率が高い語」を選んで文章を作る仕組みで、事実かどうかを確かめる工程を持たないためです。そこに、学習データの偏りと欠け、学習時点以降の情報の欠如、推測を高く採点する評価、語の選び方の確率的なばらつきが重なります。

原因が分かればハルシネーションは防げますか？

原因の層によって打てる手が違います。モデルの内部に由来する層は利用者が直せませんが、資料で根拠を与える（RAG）、温度を下げる、出典を求める、人が一次資料と照合する、といった使い方の側で大きく減らせます。完全になくすことは、2026年11月時点の技術ではできません。

長い資料を渡せばハルシネーションは減りますか？

必ずしも減りません。研究では、重要な情報が長い入力の中ほどにあると、先頭や末尾にある場合より正答率が下がる傾向が報告されています。関連箇所だけを抜き出して渡すほうが安全です。

まとめ

ハルシネーションは偶発的なバグではなく、LLMが「次のトークンとしてもっともらしいものを選ぶ」という原理と、推測が得になる学習・評価の仕組みから生まれる構造的な現象です。学習データの偏り、目的関数と評価の限界、知識カットオフ、語の選び方、露出バイアスや過学習が重なって起きます。RAGやプロンプト設計で大きく減らせますが、現時点でゼロにする方法はありません。「LLMは確率的な文章生成装置である」という前提で、重要な判断には検証を組み込んでください。

参考文献

• Kalai ほか「Why Language Models Hallucinate」（2025）https://arxiv.org/abs/2509.04664
• Huang ほか「A Survey on Hallucination in Large Language Models」（ACM Transactions on Information Systems）
• Liu ほか「Lost in the Middle: How Language Models Use Long Contexts」（TACL, 2023）https://arxiv.org/abs/2307.03172（2026年11月2日確認）
• Kadavath ほか「Language Models (Mostly) Know What They Know」（2022）https://arxiv.org/abs/2207.05221（2026年11月2日確認）
• Magesh ほか「Hallucination-Free? Assessing the Reliability of Leading AI Legal Research Tools」（2024）https://arxiv.org/abs/2405.20362

最終更新日：2026年11月2日