
生成AIの嘘は減ったのか?ハルシネーションの最新事情と、AIを安全に使いこなす方法
はじめに
ChatGPTをはじめとする生成AIの進化によって、私たちの仕事の進め方は大きく変わりつつあります。文章の作成、情報収集、プログラミング、資料の要約など、AIに任せられる業務は急速に広がっています。
しかし、AIを利用するうえで忘れてはいけないのが、「ハルシネーション(Hallucination)」 の存在です。生成AIは、ときに事実ではない情報を、あたかも正しい情報であるかのように回答します。
一方で、最近の生成AIを使っていると、以前ほど明らかな間違いを見かけなくなったと感じる方もいるのではないでしょうか。実際、近年のAIモデルでは、ハルシネーションの発生を減らすための改良が進められており、一定の改善が報告されています。
では、現在の生成AIはどこまで信用できるのでしょうか?
本記事では、以下の観点からハルシネーションを解説します。
ハルシネーションの意味と具体例
ハルシネーションが発生する原因
最新AIでハルシネーションはどこまで改善したのか
誤った回答を減らす7つの対策
業務でAIを利用する際の品質管理と責任分担
応用情報・高度情報技術者試験で押さえたいポイント
IPA試験対策はもちろん、生成AIを日常業務で活用している方にも役立つ内容です。
1. AIのハルシネーションとは?
1-1. ハルシネーションの意味
ハルシネーションとは、AIが事実とは異なる情報や根拠のない内容を、もっともらしく生成する現象 です。
英語の「Hallucination」は「幻覚」を意味します。ただし、AIが人間と同じように幻覚を見ているわけではありません。AIの出力が事実と一致しない現象を比喩的に表したものです。
例えば、以下のような回答が該当します。
実際には存在しない法律や条文を紹介する
架空の論文や参考文献を引用する
実在しない企業・製品・サービスを紹介する
調査していない情報を、調査済みのように説明する
実在しないWebページのURLを提示する
資料に書かれていない内容を、資料の記載事項として説明する
誤った計算結果を正しいものとして断言する
特に厄介なのは、AIの回答が文章として非常に自然であり、間違いを見抜きにくい という点です。
1-2. ハルシネーションの具体例
例えば、社内規程についてAIに質問したとします。
質問:
「当社の情報セキュリティ規程の最終改訂日はいつですか?」
AIの回答:
「最終改訂日は2026年4月1日です。」
一見すると自然な回答ですが、AIが実際の規程を参照していなければ、その日付には根拠がありません。実際には改訂日が異なっていたり、そもそも資料を参照できていなかったりする可能性があります。
これは架空の例ですが、同様の問題は実際の業務でも起こり得ます。

[ここに解説イラスト①:ハルシネーションが起きる仕組みを挿入]
なお、ハルシネーションと、単なる情報の古さは区別して考える必要があります。過去には正しかった情報が、法改正や価格改定などによって現在は誤りになっている場合もあります。いずれも出力の正確性に関するリスクですが、原因が異なれば、必要な対策も異なります。
2. なぜAIはハルシネーションを起こすのか?
ハルシネーションは、AIの仕組みや学習方法、ユーザーの質問内容など、複数の要因が組み合わさって発生します。
原因① AIは文章の「もっともらしさ」を学習している
ChatGPTなどの大規模言語モデル(LLM)は、大量のデータを学習し、文脈に応じて次のトークンを予測する仕組みを基礎としています。
そのため、自然で流暢な文章を生成する能力と、事実を正確に回答する能力は、必ずしも一致しません。文章として自然でも、内容が正しいとは限らないのです。
もちろん、現在のLLMは単に次の単語を予測するだけでなく、追加学習や推論、検索、外部ツールなどによって正確性を高めています。それでも、自然な文章を生成できること自体が、事実の正しさを保証するわけではない という特徴は変わりません。
原因② 学習データに限界がある
AIが学習したデータには、網羅性や正確性、鮮度に限界があります。
例えば、次のような情報はAIが正確に把握していない可能性があります。
最近発表されたニュースや製品仕様
社内規程や非公開の業務資料
特定企業だけに存在する業務ルール
学習データに十分含まれない専門知識
AIが必要な情報を持っていないにもかかわらず、回答を補完しようとすると、ハルシネーションにつながります。
原因③ 質問の条件が曖昧である
ユーザーの質問が曖昧な場合、AIは不足している条件を推測して回答することがあります。
例えば、「この製品の最新価格を教えて」と質問した場合、対象製品、国、販売チャネル、価格の基準日などが不明確です。こうした条件が不足すると、AIが意図とは異なる前提で回答する可能性があります。
ただし、プロンプトを明確にすれば、ハルシネーションを完全に防げるわけではありません。質問を明確化することは重要ですが、それだけでは足りないのです。
原因④ 分からないときにも回答しようとする
もう一つ重要なのが、AIの学習や評価の方法です。
2025年9月にOpenAIが公表し、2026年4月に学術誌『Nature』に掲載された研究では、一般的な正答率中心の評価が、回答を控えるよりも推測を有利にしてしまう問題が指摘されています。
例えば、試験で分からない問題があった場合、無回答よりも適当に答えた方が得点につながることがあります。AIでも、正解を出すことだけが評価されると、不確かな内容を推測して回答する傾向が強まり得ます。
つまり、ハルシネーションの問題は、AIが知らないことだけでなく、「知らないときにどう振る舞うか」にも関係している のです。
参考:OpenAI「言語モデルでハルシネーションがおきる理由」(2025年9月)
3. 最近のAIではハルシネーションが減ったのか?
ここが今回の記事で特に注目したいポイントです。
結論としては、一部の公開評価では確かに改善が確認されています。ただし、すべての用途で一律に減少したとは言い切れません。
3-1. AIモデルの進化によって改善が進んでいる
2025年8月にOpenAIが発表したGPT-5では、旧モデルと比較した事実誤りの削減が報告されました。
Web検索を有効にした評価では、実際のChatGPT利用を代表する質問に対し、GPT-5の回答が事実誤りを含む割合はGPT-4oより約45%低く、推論を利用したGPT-5ではOpenAI o3より約80%低いと報告されています。
さらに2026年3月に発表されたGPT-5.4では、事実誤りが報告された利用者の質問を用いた評価において、GPT-5.2と比べて次の改善が示されました。
個々の主張が誤っている割合:相対的に33%低下
何らかの事実誤りを含む回答の割合:相対的に18%低下
このように、2025~2026年にかけても、回答の正確性を改善する取り組みは進んでいます。ただし、これらはそれぞれ評価条件や比較対象が異なる、OpenAI自身による評価結果 です。
例えば「誤りが45%減った」とは、すべての質問におけるハルシネーション率が45ポイント低下したという意味ではありません。また、上記の複数の数値をつなぎ合わせて、2024年から2026年までの累積改善率を求めることもできません。
参考:
3-2. 「正答率」と「ハルシネーション率」は同じではない
ここで注意したいのが、AIの性能評価に使われる指標です。
例えば、あるAIが100問の質問を受けて、次のように回答したとします。
正しい回答:70問
誤った回答:10問
分からないと回答:20問
この場合、全質問に対する正答率は70%、誤答の割合は10%です。一方、実際に回答した80問だけを母数とすると、回答時の誤答率は12.5%になります。このように、「回答を控えた質問をどう扱うか」によって、AIの評価結果は変わります。
何でも答えるAIよりも、不確実なときに「分かりません」と回答できるAIの方が、安全に利用できる場面もあります。ただし、回答を控える割合が高すぎると、業務で必要な情報が得られなくなることもあります。したがって、単なる正答率だけでなく、誤答率、回答率、重大な誤りの有無などを組み合わせて評価することが重要です。
3-3. ハルシネーションが減っても、確認は不要にならない
AIの正確性が向上すると、利用者は回答をより信頼するようになります。
これは業務効率化の面では望ましい一方、注意も必要です。
例えば、以前のAIでは10回に1回程度の明らかな間違いに気付いていた人が、現在のAIではほとんど間違いを見かけなくなったとします。すると、回答内容を確認する習慣自体が薄れるかもしれません。結果として、まれに発生する重大な誤回答を見落とす可能性があります。
これは実際の発生率を示す例ではなく、利用者の心理や運用上のリスクを説明したものです。重要なのは、AIの性能が向上したことと、人間による確認が不要になったことを混同しない ことです。
4. ハルシネーションを防ぐ7つの対策
ハルシネーションを完全にゼロにすることは難しいものの、適切な対策を組み合わせることで、リスクを低減できます。
対策① 質問の条件を具体的にする
質問の対象、目的、前提条件、情報の基準日などを明確にします。
例えば、「法律について教えて」ではなく、「日本の現行法に基づき、2026年10月時点での制度を、公的機関の一次情報を優先して説明してください」と依頼します。対象や条件を限定することで、AIが誤った前提を補完する可能性を下げられます。
対策② 分からない場合は回答を控えるよう指示する
AIに対して、根拠がない場合には無理に回答しないよう指示します。
例えば、次のようなプロンプトが考えられます。
プロンプト例
回答の際は、確認できた事実と推測を明確に区別してください。
根拠が確認できない事項については、事実を推測して補完せず、「確認できません」と回答してください。出典がある場合は提示し、出典に記載がない情報を断定しないでください。
ただし、このような指示を追加しても、AIが必ず正しく不確実性を判断できるわけではありません。重要な内容は、別途検証する必要があります。
対策③ 信頼できる一次情報を参照させる
法律なら官公庁の公開資料、製品仕様ならメーカー公式ドキュメントなど、信頼できる情報源を優先します。
出典が提示されることで、利用者も確認しやすくなります。ただし、注意したいのは、出典が提示されていることと、回答内容が正しいことは別 だという点です。
実在するWebページを引用していても、そのページに書かれていない内容をAIが付け加えている可能性があります。リンクの存在だけでなく、出典の内容とAIの主張が一致しているか確認しましょう。
対策④ RAG(検索拡張生成)を活用する
RAG(Retrieval-Augmented Generation)は、外部の文書やデータベースから関連情報を検索し、その情報をもとにAIが回答を生成する仕組みです。
例えば、社内マニュアルに関する質問に対して、AIが該当資料を検索し、その内容に基づいて回答します。RAGを利用することで、AIが事前学習していない情報や、最新の社内資料なども回答に反映しやすくなります。
ただし、RAGも万能ではありません。このような問題は残ります。
検索で必要な文書を取得できない
検索対象の資料自体が古い、または誤っている
検索した文書をAIが誤って解釈する
複数の資料の内容を不適切に組み合わせる
RAGはハルシネーションを低減するための有効な技術ですが、回答の正確性を100%保証するものではありません。
対策⑤ 数値や計算は専用ツールで検証する
生成AIが作成した計算結果は、Excel、電卓、プログラム、データベースなどで検証します。
例えば、売上集計や統計処理では、文章生成をAIに任せつつ、数値の集計処理は専用ツールで実行する方法が有効です。AIが計算ツールを利用できる場合でも、入力データや計算条件が正しいかを確認する必要があります。
対策⑥ 複数の方法でクロスチェックする
AIの回答を別の情報源や手段で検証する方法です。
例えば、AIが生成した技術資料を、公式ドキュメントや実際の動作確認によって検証します。複数のAIモデルで回答を比較する方法も補助的には使えますが、複数のAIが同じ誤りを出す可能性もあります。
したがって、重要な情報ではAI同士の多数決よりも、独立した一次情報による検証 を優先しましょう。
対策⑦ 最終的な判断には人間を関与させる
AIが生成した内容を人間が確認し、必要に応じて修正・承認する仕組みです。これは HITL(Human-in-the-Loop) と呼ばれる考え方に関係します。
例えば、AIが生成した契約書のドラフトは法務担当者が確認し、顧客向けの正式回答は業務責任者が承認する、といった運用です。AIが得意な下書きや情報整理を活用しながら、重要な判断は人間が担うことが基本となります。
5. 業務でのAI活用と品質管理
ここからは、試験対策だけでなく、実務でAIを利用する場合の考え方を整理します。ポイントは、AIを信用するか・しないかの二択ではなく、業務リスクに応じて適切な検証を組み込むこと です。
5-1. AIに任せやすい業務
次のような業務は、AIを比較的活用しやすい領域です。
アイデア出しや企画の壁打ち
メールや文書の下書き
文章の校正や表現の改善
文書の分類や情報整理
プログラムのたたき台作成
これらは、多少の誤りがあっても、人間が確認・修正することで対応しやすい業務です。ただし、機密情報の入力制限や著作権など、正確性以外のリスクへの対応も必要です。
5-2. 特に注意したい業務
次のような業務では、AIの回答をそのまま利用しないことが重要です。
法律や契約に関する正式な判断
医療・金融など重大な影響を伴う判断
顧客に対する製品仕様や契約条件の説明
決算・会計・税務に関する数値処理
セキュリティインシデントの調査や対応判断
システムの本番環境に影響する操作
これらの業務では、誤りによって法的責任、金銭的損失、システム障害などが発生する可能性があります。AIによる支援が有効な場合でも、事実確認や専門家によるレビュー、承認の仕組みが必要です。
5-3. AIの品質管理を5段階で考える
実務では、次のようなプロセスを組み込むことを推奨します。
STEP 1:利用目的とリスクを明確にする
AIを何のために利用するのか、誤回答が発生するとどのような影響があるのかを整理します。
STEP 2:根拠となる情報を整備する
信頼できる一次情報や社内資料を整備し、必要に応じてRAGなどを利用します。
STEP 3:AIの出力を検証する
数値、出典、事実関係、文書の整合性などを確認します。可能な項目は自動検証も活用します。
STEP 4:重要な内容は人間が承認する
顧客への公開や重要な意思決定では、担当者や専門家によるレビューを実施します。
STEP 5:誤答を記録し、継続的に改善する
発生した誤回答を記録し、原因を分析します。AIモデルの変更や業務ルールの更新時にも、必要に応じて再評価します。

5-4. AIの品質は何を測ればよいのか?
AIの品質管理では、単に「回答が自然である」「利用者の満足度が高い」といった評価だけでは不十分です。
業務内容に応じて、次のような指標を確認します。
正答率: 質問に対して正しい回答が得られた割合
誤答率: 事実誤りを含む回答の割合
回答率: AIが回答を控えずに回答した割合
根拠整合率: 回答中の主張が提示した出典によって裏付けられている割合
重大誤答件数: 業務上重大な影響を与え得る誤回答の件数
人手修正率: AIの出力に対して人間による修正が必要となった割合
また、品質評価に使う質問や正解データは、実際の業務を代表するものにする必要があります。例えば、単純なFAQでは高い正答率が得られても、複数文書の比較や例外処理が必要な業務では、十分な性能を発揮できない可能性があります。
評価の際には、正常系だけでなく、情報が存在しない場合、古い資料が混在する場合、質問が曖昧な場合なども含めましょう。
6. AIの業務活用で見落としがちなポイント
6-1. AIモデルの変更で品質が変わることがある
AIモデルの更新により、正確性、回答傾向、回答を控える頻度などが変化する可能性があります。
したがって、一度検証したAIシステムが、その後も同じ品質を維持するとは限りません。重要な業務では、モデル更新時の回帰テストや品質の継続監視が必要です。
6-2. 生成AIのパラメータ調整だけでは十分ではない
生成時のランダム性を抑えるために、Temperatureなどのパラメータを調整する方法があります。ただし、同じ回答を安定して出力できるようになったとしても、その回答自体が誤っていれば問題は解決しません。
回答の一貫性と、事実としての正確性は別の評価項目 です。
6-3. ファインチューニングも正確性を保証しない
ファインチューニングは、特定のタスクや表現形式への適応などに利用されます。しかし、学習データに誤りが含まれていたり、事実の確認が必要だったりする場合、ファインチューニングだけでハルシネーションを解消できるとは限りません。
最新の知識や社内情報を正確に扱いたい場合は、RAGや外部データ参照などの仕組みも検討する必要があります。
6-4. AIの回答をそのまま次のシステムに渡さない
生成AIを他のシステムやAIエージェントと連携させる場合、誤回答の影響が広がる可能性があります。例えば、AIが生成した誤ったSQLやAPIパラメータが、そのまま処理に利用されれば、データの破損や業務障害につながるおそれがあります。
そのため、AIの出力を実行前に検証し、操作権限を最小限に制限し、重要な操作では承認を要求することが重要です。
7. IPA試験で押さえておきたいポイント
ハルシネーションは、単なるAIの豆知識ではありません。IPAが公表している応用情報技術者試験のシラバスでは、AIの利活用に関する留意事項として、ハルシネーションや人間による確認の重要性が扱われています。
また、「情報セキュリティ10大脅威2026」の組織編では、「AIの利用をめぐるサイバーリスク」が第3位 に初めて選出されています。IPAは、AIが生成した結果を十分に検証せず鵜呑みにすることによる問題についても注意を促しています。
試験で覚えたい重要用語
ハルシネーション(Hallucination)
AIが事実と異なる情報や根拠のない内容を、もっともらしく生成する現象。
LLM(Large Language Model)
大規模言語モデル。大量のデータから言語のパターンを学習し、文章の生成や質問応答などを行うモデル。
RAG(Retrieval-Augmented Generation)
検索拡張生成。外部情報を検索し、その情報を参照して回答を生成する手法。
HITL(Human-in-the-Loop)
AIシステムの処理や判断に人間が関与し、必要に応じて確認・修正・承認を行う考え方。
AIガバナンス
AIの開発・導入・利用におけるリスクや責任を管理するための組織的な仕組み。
グラウンディング(Grounding)
AIの回答を、参照資料や外部情報などの根拠に結び付けること。
ファクトチェック(Fact-checking)
出力された情報が事実と一致しているかを、信頼できる情報源などによって検証すること。
試験対策としての理解のポイント
ハルシネーションは、自然な文章であっても事実とは限らないことを理解する。
RAGはハルシネーションの低減に役立つが、完全には防止できない。
AIの出力を重要な判断に用いる際は、人間による確認や検証が必要になる。
AIの品質管理では、正答率だけでなく、誤答率や重大な誤回答も評価する。
AIの回答を他のシステムで利用する際は、出力検証や権限管理が重要になる。
応用情報・高度情報技術者試験の対策では、用語の意味だけでなく、具体的な業務上のリスクと、その対策を結び付けて理解すること をおすすめします。
8. まとめ:これからのAI活用で重要なこと
AIのハルシネーションは、近年のモデル改良によって、一定の評価条件では減少しています。これは、生成AIを業務で活用するうえで非常に大きな進歩です。
しかし、AIの正確性が向上しても、ハルシネーションが完全になくなったわけではありません。また、AIを業務に組み込む際には、回答の正確性だけでなく、情報漏えい、権限管理、セキュリティ、法的責任などにも注意が必要です。
今後のAI活用では、次のような姿勢が重要になると考えます。
AIが得意な作業には積極的に活用する。
重要な情報は、一次情報や専用ツールで検証する。
回答が不確かな場合に、無理に断定しない仕組みを作る。
人間が最終的な判断と責任を持つ。
AIの品質を継続的に評価し、改善する。
AIを信用するか、信用しないかではなく、どこまでAIに任せ、どこから人間が確認するか。この線引きを適切に設計できることが、これからのAI活用において重要なスキルになるでしょう。
関連記事
関連記事
参考資料
本記事は、2026年10月29日時点で確認できる以下の公開資料を参考にしています。