ハルシネーションとは？AIがもっともらしい嘘をつく原因・種類・実際の事例と対策

ハルシネーションとは、生成AI（大規模言語モデル）が、事実と異なる内容や実在しない情報を、根拠があるかのようなもっともらしい文章で出力してしまう現象です。英語の hallucination（幻覚）に由来します。

この記事では、ハルシネーションの意味と語源、種類、起きる原因、リスク、世界で報道された実際の事例、起きやすい状況、自分で確かめるチェックリスト、対策の全体像、今後の見通しまでを、初めての人にもわかるように順に解説します。対策のくわしい進め方とプロンプトの雛形はハルシネーションの対策｜RAG・プロンプトで防ぐ方法にまとめています。

ハルシネーションとは？意味と語源をわかりやすく解説

ハルシネーションとは、ChatGPT・Gemini・Claude などの生成AI（大規模言語モデル・LLM）が、事実と異なる内容や実在しない情報を、あたかも正しい事実であるかのように自然な文章で出力してしまう現象です。英語の hallucination（幻覚）に由来し、「AIが幻覚を見ているように、無いものを有るように語る」ことからこう呼ばれます。日本語では「もっともらしい嘘」「AIの作話」と説明されることもあります。

特徴は、文章の形式が整っている点にあります。「存在しない論文の引用」「実在しない判例」「架空の法律の条文」「言っていない発言」などが、著者名や番号、日付まで添えて出てくるため、その分野の知識がない人ほど見抜けません。

仕組みを一言でいうと、LLM は「次に来る確率の高い語」を予測して文章を作る仕組みであり、正しい事実を参照するデータベースではありません。そのため、学習データが少ない話題、最新の出来事、細かい固有名詞などで、それらしく見える誤りが混ざります。

誤字・計算ミス・古い知識との違い

AIの出力の誤りがすべてハルシネーションと呼ばれるわけではありません。次のように分けて考えると整理しやすくなります。

• ハルシネーション：根拠がないのに、事実であるかのように断定して述べます（架空の出典・架空の数値・架空の出来事）。
• 知識の古さ：学習した時点より後の出来事を知らないため、古い情報を答えます。これ自体は誤りですが、最新情報を補おうとして架空の事実を作った時点でハルシネーションになります。
• 計算や論理のミス：途中の計算を間違える、前後で矛盾するといった誤りです。文章の自然さは保たれるため、見分けるには検算が必要です。
• 指示の取り違え：質問の意図を誤解して、聞かれていないことに答えます。

実務で問題になるのは、このうち「根拠がないのに断定する」ハルシネーションです。以下で種類・原因・リスク・実際の事例・対策を順に見ていきます。

ハルシネーションを減らすプロンプトの書き方は、ハルシネーション対策プロンプト集で解説しています。

関連記事ハルシネーションの仕組み・原因は？

ハルシネーションの種類：4つに分けて見分ける

ハルシネーションは、研究上は「入力（与えた資料）と矛盾する内在的（intrinsic）なもの」と「入力にも事実にも根拠がない外在的（extrinsic）なもの」の2つに大別されます。実際に使う場面では次の4つの現れ方として観察でき、種類ごとに効きやすい対策が違います。

種類	典型的な現れ方	気づきにくさ	効きやすい対策
事実の誤り	存在しない日付・数値・人物の経歴を断定する	高い（文章は自然）	出典の提示を要求する、検索拡張生成（RAG）で根拠文書に縛る
出典・引用の捏造	実在しない論文・判例・URLをもっともらしい形式で生成する	非常に高い（形式が整っている）	引用は必ず原典に当たる、URLの実在確認を運用に組み込む
論理の破綻	前半と後半で矛盾する、計算の途中で辻褄が合わなくなる	中程度	手順を分けて考えさせる、計算はツールに任せる
指示からの逸脱	与えた資料に無い内容を補って要約する、条件を無視して回答する	中程度	「資料に無ければ『不明』と答える」と明示する、出力形式を固定する

内在的と外在的の違いは、「元の資料」があるかどうかで見分けられます。たとえば、次のようなものです（説明のための例です）。

• 内在的（資料と矛盾する）：渡した記事に「売上は前年比で増加」と書いてあるのに、要約では「減少した」と書く。
• 外在的（資料にも事実にも根拠がない）：渡した記事に無い人物の発言を、要約に付け足す。

資料を渡して使う場面（要約・翻訳・社内文書の質問応答）では内在的な誤りを、資料なしで質問する場面では外在的な誤りを、特に疑います。

後述する実際の事例の多くは「出典・引用の捏造」と「事実の誤り」に当たります。形式が整っているほど見抜きにくいため、重要な用途ほど「文章の自然さ」ではなく「根拠の実在」で判断するのが基本です。

ハルシネーションが起きる原因

ハルシネーションは「AIのバグ」ではなく、大規模言語モデルの仕組みそのものから生じます。主な原因を整理します。

• 確率的な文章生成：モデルは「次に来る確率が高い語」を選び続けて文章を作るため、事実を照合する工程がありません。知らないことでも、もっともらしい続きを生成できてしまいます。
• 学習データの限界：学習に使われた文章に誤りや偏りが含まれていれば、それを再現します。ニッチな専門分野や固有名詞は学習量が少なく、特に誤りやすくなります。
• 知識の鮮度：学習時点以降の出来事は知らないため、最新情報を聞くと古い知識で埋めようとします。
• 曖昧な指示：「詳しく」「正確に」といった指示だけでは、モデルは空白を埋める方向に働きます。何を根拠に、どこまで答えてよいかを決めていない質問ほど危険です。
• 長い文脈での崩れ：長い会話や大量の資料を扱うと、前半の制約を取りこぼし、途中から前提が変わってしまうことがあります。
• 人に好まれる回答への最適化：対話向けの調整は「はっきり答える」回答を好む傾向を強めるため、「分からない」と言うより断定しがちになります。

次の単語を確率で選ぶ仕組みでは、パターンのない事実は当てられない

大規模言語モデルは、文章の続きを予測する学習で作られます。綴りやかっこの対応のように規則性がある事柄は、学習が進むほど間違えなくなります。一方、特定の人の誕生日のように規則性がなく、学習データに数回しか出てこない事実は、パターンから推測できません。OpenAI は、こうした「まれで任意の事実」がハルシネーションの典型だと説明しています（OpenAI「Why language models hallucinate」）。

論文には具体例があります。著者の誕生日を「分かる場合だけ DD-MM 形式で答えて」と尋ねたところ、あるオープンモデル（DeepSeek-V3）は3回とも別の誤った日付（03-07・15-06・01-01）を返しました（Kalai ほか, 2025, arXiv:2509.04664。論文の記載）。さらに論文は、学習データに1回しか出てこない事実の割合が、モデルの誤りの下限の目安になると述べています。たとえば誕生日の事実の20%が1回しか登場しなければ、少なくともその20%程度で誤ると見込まれる、という説明です。

学習データの欠落と古さ：知らないことを、知っている形で埋める

学習データに無い話題や、学習後に起きた出来事を聞かれたとき、モデルは「知らない」と判断する仕組みを持たないまま、もっともらしい文章で空白を埋めます。ニッチな専門分野、固有名詞、最新の制度・価格・人事などで誤りやすいのはこのためです。東京都デジタルサービス局の「生成AI利用の手引き」も、生成AIの回答は自然な言い回しのため正しいと感じやすい一方、最新の情報を反映していないことがあり、必ずしも正確とは限らないと注意しています（東京都「東京都AI導入・活用ガイドラインに基づく生成AI利用の手引き」Version 1.0、2026年3月、2026年10月19日確認）。

評価の仕組みが、当て推量を促している

2025年9月に OpenAI の研究者が公開した論文「Why Language Models Hallucinate」は、こうした原因に加えて、学習と評価の仕組みそのものが「分からない」と答えるより「推測して答える」ことに報酬を与えていると指摘しています。試験で空欄にすると0点になるため、自信がなくても何か書いたほうが点が取れる——モデルも同じ圧力を受けている、という説明です（Kalai ほか, 2025, arXiv:2509.04664）。

OpenAI のブログは、この圧力を具体的な数字で説明しています。日付を当てずっぽうで答えれば365分の1で当たる可能性がありますが、「分かりません」と答えれば確実に0点です。正答率だけで順位を付ける多くのベンチマークでは、慎重に「分からない」と答えるモデルより、推測するモデルのほうが高く評価されてしまいます。論文は、誤答と無回答を区別して採点する形に既存の評価を改めることが必要だと提案しています（OpenAI、2026年10月19日に検索結果で確認。論文本体は OpenAI 掲載の PDF で確認）。

モデルの構造・学習・生成方法に由来する原因：過学習、デコード、露出バイアス

原因はデータだけではありません。ハルシネーション研究を体系的に整理した論文（Huang ほか, “A Survey on Hallucination in Large Language Models”, ACM Transactions on Information Systems、2026年10月20日確認）は、モデルの作られ方と動かし方に由来する原因を、学習の段階と生成（推論）の段階に分けて説明しています。

原因	何が起きるか（同論文の説明）	段階
片方向の予測学習と注意の薄まり	事前学習は、前の語だけから次の語を予測する左から右の方式です。文脈の複雑な依存関係を捉えにくくなり、系列が長いほど注意が各位置に薄く分散して、推論の誤りが出ることがあると述べています。	事前学習
露出バイアス	学習時は正しい文の続きを予測しますが、実際の生成では自分が出した語の続きを作ります。この差のため、途中で誤った語を出すと、その後の文章にも誤りが雪だるま式に広がります。	学習と生成のずれ
追加の事実学習による過学習	指示に従う調整（SFT）で、事前学習で得ていない新しい事実を覚えさせようとすると、モデルはそれをうまく取り込めず、新しい事実を学ぶほど誤りが増える傾向が報告されています。「分からない」と断る練習が足りないと、知識の外の質問にも作り話で答えやすくなります。	指示調整（SFT）
人の好みへの迎合	人の評価で調整したモデル（RLHF）は、正しい答えより利用者の意見に合う答えを返す傾向（迎合）が見られます。人間の側にも、迎合的な回答を好む偏りがあるとされています。	人の評価による調整
デコード（語の選び方）の誤り	多くのモデルは多様で自然な文章にするため、確率に従って語を選ぶ確率的サンプリングを使います。この多様性は誤りの危険と正の相関があり、温度を上げるほど出現頻度の低い語が選ばれやすくなります。生成済みの部分に引きずられ、元の資料への忠実さより流暢さを優先する「過信」も挙げられています。	生成（推論）

これらは利用者が直せない層の話ですが、使い方の示唆はあります。正確さが要る用途では創造性の設定（温度）を上げすぎない、長い回答は途中の誤りが後ろへ波及するので区切って確認する、資料に基づく回答では根拠の照合を欠かさない、といった対応です（この対応づけは本記事での整理です）。

画像・動画生成のハルシネーション

文章だけの問題ではありません。画像生成の主流方式である拡散モデルでも、学習データには存在し得ない画像が生成される現象が「ハルシネーション」と呼ばれています。Carnegie Mellon University などの研究（Aithal ほか, 2024, arXiv:2406.09358、2026年10月20日確認）は、学習データの近いパターンの間を補間してしまう「モード補間」が原因の一つだと示し、生成の最終段階でのばらつきを測ることで、人工的に作った実験データではそうした失敗の95%以上を除けたと報告しています。動画生成については、本稿では一次資料を確認できていないため、個別の誤りの傾向は取り上げません。

原因ごとのくわしい解説はハルシネーションの仕組み・原因｜なぜAIは間違えるのかにまとめています。次に、こうした誤りが現実にどのような損害につながるかを整理します。

ハルシネーションのリスク：社会・ビジネスへの影響

ハルシネーションが単なる「AIの誤答」で終わらない理由は、その出力が文書・判断・公開物に組み込まれ、被害が連鎖的に広がるためです。次の節で見る実際の事例も、この表のどれかに当てはまります。

リスクの種類	具体的な影響	特に影響を受けやすい業界
法的リスク	誤った法律解釈・契約書・訴訟書類の提出	法律・金融・不動産
健康・安全リスク	誤った医療情報に基づく意思決定	医療・ヘルスケア・製薬
信頼・レピュテーションリスク	誤情報の公開による企業・個人への信用毀損	メディア・広報・教育
意思決定リスク	誤った市場データ・競合情報による経営判断のミス	コンサルティング・経営企画
セキュリティリスク	パッケージハルシネーションを悪用したサプライチェーン攻撃	IT・ソフトウェア開発

ハルシネーションの実際の事例：有名な5件と分野別の失敗例

この現象は理論上の心配ではなく、公開されたサービスや裁判で実際に起きています。まず、世界で広く報道され、一次資料（判決文・公式発表・報道）で確認できる代表的な5件を年表にまとめ、そのあとで分野別の失敗例を見ていきます。

世界で報道された代表的な事例（年表）

時期	何が起きたか	内容と結果（出典）
2022年11月	Meta「Galactica」	科学論文の要約などを目的に公開された大規模言語モデルが、実在の研究者の名前で架空の論文を生成するなどの問題を指摘され、公開から3日で公開デモが停止されました（MIT Technology Review, 2022年11月18日）。
2023年2月	Google「Bard」の発表デモ	宣伝用のデモで「ジェイムズ・ウェッブ宇宙望遠鏡が太陽系外惑星の最初の写真を撮影した」と回答しました。実際の最初の撮影は2004年の欧州南天天文台の望遠鏡で、誤りが報じられた当日、Alphabet の株価は一時9%下落しました（NPR, 2023年2月9日）。
2023年6月	米国の弁護士が架空の判例を提出（Mata v. Avianca）	ニューヨークの弁護士が ChatGPT で調べた「Varghese v. China Southern Airlines」など存在しない判例を、判事名や引用付きの体裁のまま裁判所に提出しました。連邦地裁は2023年6月22日、弁護士2名と法律事務所に連帯で5,000ドルの制裁を命じました（判決文 Mata v. Avianca, Inc., 678 F.Supp.3d 443 (S.D.N.Y. 2023)）。
2024年2月	Air Canada のチャットボット（Moffatt v. Air Canada）	公式サイトのチャットボットが「忌引運賃は搭乗後でも申請できる」と実際の規定と異なる案内をし、利用者が差額を請求しました。航空会社は「チャットボットの案内には責任を負えない」と主張しましたが、カナダBC州の民事解決審判所は過失による不実表示を認め、損害賠償650.88ドルを含む計812.02カナダドルの支払いを命じました（審判所の決定 2024 BCCRT 149）。
2024年5月	Google 検索「AI Overviews」	検索結果の上に出るAIの要約が「ピザにチーズをくっつけるには接着剤を使う」「石を食べるとよい」といった誤った回答を出し、SNSで拡散しました。Google は公式ブログで誤りを認め、掲示板の投稿や風刺記事を事実として扱わないよう改善したと説明しました（Google 公式ブログ, 2024年5月30日）。

名誉毀損が争われた事例（Walters v. OpenAI）：米国のラジオ司会者 Mark Walters 氏は、ジャーナリストが別の訴訟について ChatGPT で調べた際、ChatGPT が出力した要約の中で自分が横領で訴えられた被告とされたとして、OpenAI を訴えました。ジョージア州グイネット郡上位裁判所は2025年5月、OpenAI の略式判決の申立てを認めて請求を退けました。法律事務所の解説によると、裁判所は、その出力を「実際の事実を伝えるもの」と受け取る合理的な読者はいないとして名誉毀損にあたらないと判断しています。ChatGPT がジャーナリストに対し、インターネットやリンク先にアクセスできないと警告していた点も指摘されました（Covington & Burling の解説, 2025年6月16日、Cleary Gottlieb の解説。判決文そのものは確認できておらず、2026年10月20日に法律事務所の解説で確認）。AIの誤出力に法的責任が生じるかは国や事案で異なり、この判断が一般に通用するわけではありません。

5件に共通するのは、出力が自然で自信に満ちていたために、人がそのまま信じて使ってしまったことです。開発した企業の規模や技術力に関係なく起きている点も押さえておきたいところです。

① 法律・裁判：架空の判例・条文

法律分野は、誤りが裁判という公的な手続きに直結するため特に深刻です。上の Mata v. Avianca では、AI が判例の当事者名・裁判所名・判決の要旨まで整合性をもって作り上げていました。判決文によると、弁護士が ChatGPT に「Varghese は実在する判例か」と確認したところ、ChatGPT は「実在し、Westlaw や LexisNexis で見つかる」と答えています。AI に「本当か」と聞いても確認にはなりません。法令や判例を扱う場面では、法令データベースや判例データベースなど一次資料との照合が欠かせません。

② 医療・健康：存在しない薬の用量や診断基準

医療情報の誤りは、患者の行動に直結します。汎用のAIに医療的な質問をすると、存在しない薬の用量や禁忌、誤った診断基準が、専門家のような断定口調で返ってくることがあります。「〜が推奨されます」という言い回しは根拠があるように見えますが、実際には確率的に生成された文章にすぎません。医療・健康に関わる判断は、AIの回答だけで決めず、医療機関や公的な情報源で確認する必要があります。

③ 学術・引用：架空の論文

「この主張の根拠となる論文を挙げて」という依頼は、誤りが最も出やすい使い方のひとつです。著者名・タイトル・掲載誌・年・DOI をすべてそれらしく組み合わせた架空の論文が生成されます。実際に ChatGPT が作る引用文献を調べた研究では、42のテーマで短い文献レビューを書かせて出てきた636件の引用のうち、GPT-3.5 では55%、GPT-4 では18%が実在しない文献でした（Walters & Wilder, Scientific Reports, 2023）。新しいモデルほど減っていますが、ゼロにはなっていません。論文は Google Scholar や PubMed などで原典に当たってから使います。

④ ビジネス・企業情報：架空の発言・数値、規定と違う案内

企業の財務情報・役員・沿革・M&A などをAIに尋ねると、学習データの締め切り以降の出来事を古い情報で埋めたり、「〇〇社のCEOが△△と発言した」という実際には存在しないコメントを生成したりすることがあります。売上や従業員数も、一見もっともらしい数字が実際と大きく違うことがあります。上の Air Canada の例のように、企業が自社サイトに置いたチャットボットが規定と違う案内をすれば、その内容について企業が責任を問われる、という点も2024年の決定で示されました。

⑤ 地理・歴史：実在しない施設や出来事のすり替え

歴史上の出来事では、年代・場所・人物を別の出来事と混ぜた回答が出ることがあります。地名や施設の案内でも、「〇〇駅から最寄りの病院は？」といった質問に、実在しない施設名・住所・営業時間が返ってくることがあります。観光や地域情報のチャットボットは、学習データが薄い細かな固有名詞を扱うため、特に注意が要ります。

⑥ プログラミング：存在しないライブラリ・関数（パッケージハルシネーション）

開発者にとって身近なのが、存在しないライブラリや関数を import するコードの生成です。2025年の USENIX Security で発表された研究では、16種類のモデルに57万6,000件のコードを生成させたところ、実在しないパッケージ名を含む割合が商用モデルで平均5.2%、オープンモデルで平均21.7%にのぼり、固有の架空パッケージ名は20万5,474件に達しました（Spracklen ほか, USENIX Security 2025, arXiv:2406.10279）。攻撃者がAIの生成しがちな名前を先取りして悪意のあるパッケージを登録すれば、開発者がそれをインストールしてしまうサプライチェーン攻撃につながります。実在する関数でも引数や戻り値の仕様が違うことがあるため、公式ドキュメントでの確認が必要です。

ハルシネーションが起きやすい「状況」のパターン

事例を横断して見ると、誤りが起きやすい状況には共通のパターンがあります。これを知っておくと、リスクの高い使い方を事前に避けられます。

モデル・ツール別のハルシネーション傾向

ハルシネーションの起きやすさや傾向は、使うモデルや構成によって差があります。ただし、「このモデルならハルシネーションしない」という絶対に安全なモデルは、2026年10月時点で存在しません。傾向の違いを理解したうえで使い分けることが大切です。

モデル／ツール	ハルシネーション傾向の特徴	リスクが高い用途
GPT系（OpenAI）	ニッチな情報・最新情報で起きる。世代が新しいほど減る傾向は、前述の引用文献の研究でも示されている	引用・最新法規・直近ニュース
Claude系（Anthropic）	不確かなときの振る舞いはバージョンごとに異なるため、使うモデルの公式情報で確認する	専門的な数値データ・統計
Gemini系（Google）	検索と組み合わせると最新情報を補えるが、検索を使わない回答では同様のリスクがある	オフライン環境・法的解釈
Llama系などのオープンモデル（Meta ほか）	オープンソースで微調整次第。素のモデルは調整や検索による補強がない分、誤りの出方を自分で確かめる必要がある	未調整での専門領域利用
RAG構成のシステム	根拠文書を参照するため大幅軽減。ただし文書外の質問で発生	知識ベース外の質問への対応

モデル選びの観点については、各LLMの精度・コスト・用途への向き不向きを比較したLLMの比較記事も参考にしてください。ハルシネーションへの強さは、モデル選定の重要な評価軸のひとつです。

ハルシネーションかどうかを確かめるチェックリスト

AIの回答をそのまま使う前に、次の点を確かめます。文章が自然かどうかではなく、根拠が実在するかどうかで判断するのが基本です。

確認するもの	確かめ方
固有名詞（人名・会社名・製品名・地名）	公式サイトや公的な資料で、実在するか・説明が合っているかを確認する
数値・日付・統計	出どころの資料を開いて、同じ数字が書かれているかを確認する
論文・判例・法令の引用	タイトルや番号をデータベース（論文検索サイト、裁判所や法令の公式サイトなど）で検索し、原文に当たる
URL	実際に開いて、存在するか・書かれている内容が合っているかを確認する
最近の出来事	AIの知識は学習した時点までのもの。検索機能つきのAIで出典を表示させるか、ニュースや公式発表で確認する
プログラムのコード	出てきたライブラリや関数が実在するかを、公式ドキュメントやパッケージの配布サイトで確認してから使う

あわせて、同じ質問を言い方を変えてもう一度聞く、「根拠となる資料を挙げてください。無ければ『不明』と答えてください」と頼む、といった方法も役に立ちます。答えが聞くたびに変わる部分は、特に疑ってかかります。医療・法律・お金に関わる判断は、AIの回答だけで決めず、専門家や公的な窓口に確認してください。

ハルシネーションの対策：プロンプト・システム・運用の3層

ハルシネーションの対策は、「プロンプトで予防する」「システムの仕組みで抑える」「運用で検出する」の3層を重ねるのが基本です。1つの層だけでゼロにはできないため、用途の重要度に応じて層を足していきます。

ハルシネーションを減らす対策の流れ

① プロンプト設計で予防

「不確かなら不確かと言って」指示・CoT活用・スコープ絞り込みで架空情報を減らす

→

② システム設計で抑制

RAG導入・ファクトチェック層・Temperatureを低く設定し構造的に誤情報を抑える

→

③ 運用フローで検出

公式ソースのダブルチェック・誤出力をチームで共有し傾向を把握・対策を改善

プロンプト設計による予防

• 「分からなければ分からないと答えて」と明示する：確信がない場合は不確かだと答えるよう指示すると、架空の情報を断言するケースが減ります。ただし完全には防げません。
• 出典・根拠を求める：「出典を示してください。無ければ『不明』と答えてください」と頼むと、根拠の有無が見えやすくなります。出てきた出典は必ず原典に当たります。
• 手順を分けて考えさせる：「順を追って考えてください」と指示すると推論の途中が見え、誤った前提に気づきやすくなります。
• 根拠の範囲を限定する：「以下の資料だけを根拠に答えてください」と資料を渡すと、外部の知識で空白を埋めるリスクが下がります。

すぐ使えるプロンプトの雛形はハルシネーション対策プロンプト集に、書き方の基本はプロンプトエンジニアリングの解説にまとめています。

システム設計による抑制

• RAG（検索拡張生成）：信頼できる社内文書やデータベースから関連する情報を取り出してからAIに渡す構成です。根拠文書に縛るため、誤りを構造的に減らせます（仕組みはRAGとは）。ただし、文書に無い質問では起きます。
• ファクトチェック層：生成した回答を別のモデルや外部のAPIで検証する工程を挟みます。重要度の高い業務では工数をかける価値があります。
• 温度（Temperature）の調整：生成のランダムさを決めるパラメータを低くすると、極端な創作を抑えられます。創造性も下がるため、用途に応じて調整します。

運用フローによる検出

• 一次資料との照合をルールにする：AIの出力を一次情報として扱わず、公式の資料や専門家の確認を挟む流れを組織で決めます。前の節のチェックリストはこのために使います。
• 誤りを共有する仕組み：AIの誤った出力に気づいたら、チャットツールなどでチームに共有すると、起きやすい傾向がつかめ、プロンプトや仕組みの改善につながります。

RAGを入れても誤りは残る：検索が外れる・読み違える場合

RAG（検索拡張生成）は、根拠文書を取り出してから答えさせるため、素のモデルより誤りを減らせます。ただし「RAGなら安全」ではありません。検索で必要な文書を取り損ねれば、モデルは根拠のないまま答えを作り、取れた文書を読み違えても誤ります。スタンフォード大学などの研究チームが、法律分野の有料AI調査ツール（RAG型の Lexis+ AI・Westlaw AI-Assisted Research・Ask Practical Law AI）を検証したところ、いずれも17%から33%の割合でハルシネーションを起こしたと報告されています（Magesh ほか, 2024, arXiv:2405.20362。2026年10月19日確認）。導入後も、根拠文書の質・検索の精度・回答に引用元を付けて人が照合できる形にしているかを点検します。

開発側の対策：人の評価による調整・データの質・採点の見直し

利用者が選べない層にも対策があります。人の評価を使って応答を調整する手法（RLHF）は、OpenAI の InstructGPT の研究で、元のモデルより真実性が向上し、有害な出力が減ったと報告されました（Ouyang ほか, 2022, arXiv:2203.02155。同論文は単純な誤りは残るとも述べています）。ただし、先に見たとおり、推測を高く採点する評価が残る限り、モデルは「分からない」と言いにくいままです。OpenAI は、誤答と無回答を区別して採点する形へ既存の評価を見直すことを提案しています。学習データの質を上げる、出力を検査する層を加える、といった開発側の対策は、利用者側の確認の代わりにはならず、上の個人・組織の対策と重ねて使うものです。

個人の使い方：今日からできる5つの習慣

• 根拠にする資料を渡し、無ければ「無い」と答えさせる：東京都の手引きは、回答の根拠資料に記載がない質問には「回答できない旨を回答させる」指示を出すと、誤りのリスクを減らせるとして、「この資料に記載が無い場合はその旨回答してください」という例を示しています。
• 示された出典や URL も鵜呑みにしない：同じ手引きは、AI が示した根拠をそのまま信じず、他のサイトなどで事実確認をするよう求めています。参照先の内容が適切かどうかまでは保証されないためです。
• 数値・法令・固有名詞は原典に戻る：条文、統計、人名・社名、金額は誤りが紛れやすい項目です。公式の資料で確認してから使います。
• 用途の線引きを先に決める：アイデア出し・下書き・要約のように、人が最終確認できる用途から使い、法令の解釈や数値の確定のように誤りの代償が大きい用途は、AIの出力をそのまま使わない扱いにします（この線引きは本記事での提案です）。
• 重要な用途は2回目の確認を挟む：別の質問の仕方や別のツールで答えを照合します。前の節のチェックリストがそのまま使えます。

企業・組織の運用ルール：個人任せにせず、手順にする

個人の注意だけでは、忙しいときに確認が抜けます。公的資料では、確認を組織の手順として決めておくことが勧められています。

ルール	内容	確認できた出典
一次情報の確認を業務フローにする	法律の条文・税務・医療情報・統計・固有名詞を含む出力を業務に使うときは、人が公式の原典に遡って事実関係を確認する工程を決めておく	東京都産業労働局「中小企業向けサイバーセキュリティ対策の極意」ポータル（2026年9月7日付）
「そのまま信じない・そのまま出さない」を社内ルールの冒頭に置く	利用者が自分で公式の情報源に当たって確認することを、社内ガイドラインの第1条に近い位置で明記する（同ポータルの社内ガイドライン案）	同上
必要に応じて複数人でチェックする	AIの回答や成果物は、他のサイトでの事実確認に加え、必要に応じて複数の担当者で確認する	東京都デジタルサービス局「生成AI利用の手引き」
AI の限界を全員が知っている状態にする	生成AIは「もっともらしい文章を確率的に生成する機械」であり、事実を保証する仕組みではないことを、組織内で共有する	東京都産業労働局ポータル
研修で事例とヒヤリハットを共有する	ガイドラインを配るだけで終わらせず、定期的な研修で安全な指示の書き方や社内外のヒヤリハットを共有し、更新する	東京都産業労働局ポータル
最終判断と説明責任は人が負う	AIの出力を使った最終判断は人と組織が行い、「自動化バイアス」や過度な依存を排する仕組みを組織文化として作る。承認者を決めておく	東京都産業労働局ポータル

東京都産業労働局のポータルは、ページ自体が生成AIで原案を作成し都が校正したと明記しています。上の表は、同ポータルが記載している運用の考え方を要約したもので、東京都の手引きの記述とは出典を分けて示しました（いずれも2026年10月19日確認）。参照元：東京都産業労働局「生成AIガバナンスと公的指針の包括的分析…」。

各層のくわしい進め方（対策①〜⑤・分野別の重点・多層防御の考え方）はハルシネーションの対策｜RAG・プロンプトで防ぐ方法に、検出の実装や評価指標はハルシネーションの検出・評価にまとめています。

ハルシネーションはゼロにできる？今後の見通し

結論からいうと、2026年10月時点の技術ではハルシネーションを完全になくすことはできません。主要なAI開発企業もこの課題を公式に認めています。OpenAI の研究者による2025年の論文は、モデルが「分からない」と答えるより推測して答えるほうが評価で有利になる以上ハルシネーションは残り続けると述べ、評価の採点方法を変える必要があると提案しています（Kalai ほか, 2025）。

一方で、世代が新しいモデルほど減っているのも事実です。前述の引用文献の研究では、実在しない引用の割合が GPT-3.5 の55%から GPT-4 の18%に下がりました。検索機能や RAG を組み合わせた構成では、さらに抑えられます。

ただし、より複雑な仕事（長い文書の処理、複数手順の自動実行、AIエージェント）にAIが使われるにつれ、誤りの影響も新しい形で現れます。「AIを使わない」のではなく、「限界を理解して、確かめながら使う」ことが基本になります。

まとめ

ハルシネーションとは、生成AIが根拠のない内容を事実のように自然な文章で出力する現象です。原因はAIの仕組み（確率的な文章生成と、推測を報酬にする学習・評価）にあり、法律・医療・学術・ビジネス・プログラミングなど、あらゆる分野で実際の被害が起きています。

• 見抜くときは「文章の自然さ」ではなく「根拠の実在」で判断します（固有名詞・数値・引用・URL・最近の出来事・コードを確かめる）。
• 対策はプロンプト・システム（RAG など）・運用の3層を重ねます。1つの層ではゼロになりません。
• 新しいモデルほど減っていますが、完全にはなくなりません。重要な判断は一次資料と専門家で確認します。

対策の具体的な進め方はハルシネーションの対策｜RAG・プロンプトで防ぐ方法、どのモデルを選ぶかはLLMの比較記事を参考にしてください。

最終更新日：2026年10月20日

よくある質問

ハルシネーションとは何ですか？

ハルシネーションとは、生成AI（大規模言語モデル）が、事実と異なる内容や実在しない情報を、正しい事実であるかのように自然な文章で出力してしまう現象です。英語の hallucination（幻覚）に由来します。存在しない論文の引用や架空の判例、架空の法律の条文のように、形式が整ったまま内容が虚偽である点が特徴で、知識のない人ほど見抜けません。

ハルシネーションはなぜ起きるのですか？

大規模言語モデルは、学習データの統計的なパターンから「次に来そうな語」を予測して文章を作る仕組みで、事実のデータベースを参照しているわけではないためです。学習データが少ない話題、学習時点より後の出来事、曖昧な指示、長い会話などで起きやすくなります。また、学習と評価の仕組みが「分からない」と答えるより推測して答えることに報酬を与えていることも、2025年の OpenAI の論文で指摘されています。

ハルシネーションの具体例は？

代表的なのは、米国の弁護士が ChatGPT で調べた存在しない判例を裁判所に提出して制裁を受けた例（2023年）、航空会社のチャットボットが規定と違う運賃の案内をして損害賠償を命じられた例（2024年）、研究論文の引用を頼むと実在しない文献が混ざる例などです。ほかにも、存在しない薬の用量、架空の役員の発言、実在しない施設の案内、存在しないプログラムのライブラリなど、あらゆる分野で起きています。

ハルシネーションは完全に防げますか？

2026年10月時点の技術では、完全になくすことはできません。ただし、新しい世代のモデルほど減っており、RAG（検索拡張生成）で根拠となる文書に縛る、プロンプトで「分からなければ不明と答える」よう指示する、人が一次資料と照合する運用を決める、という3層の対策を重ねれば、実務上のリスクは大きく下げられます。

ChatGPT や Gemini、Claude でもハルシネーションは起きますか？

はい。どのモデルでも起きます。モデルによって「不確かなときに分からないと答えやすい」「検索と連携して最新情報に強い」といった傾向の違いはありますが、ハルシネーションをしないモデルはありません。重要な用途では、モデルの選定に加えて、出典の確認と人による照合を前提にしてください。

関連記事

• ハルシネーションの対策｜RAG・プロンプトで防ぐ方法
• ハルシネーションの仕組み・原因｜なぜAIは間違えるのか
• ハルシネーションの検出・評価｜精度を測る方法
• RAG（検索拡張生成）とは
• プロンプトエンジニアリングとは
• ChatGPTのハルシネーション対策
• Copilotのハルシネーション対策