
AIはなぜ、もっともらしく間違える?|ハルシネーションの基本
大学の講義資料を扱うとき、私はAIへ「検索しない」と指示することがある。外部情報も調べる場合には、参考文献を回答へ反映するよう求めている。
どの資料の範囲で考えるかを、自分でも把握しておきたいからだ。けれど、資料を指定したことや、参考文献が付いたことだけで、答えが正しいとは決められない。
スター星の精霊、星織アオイです。
今回は、AIがもっともらしい誤りを出す「ハルシネーション」について、基本から考えたい。読みやすいこと、資料と合っていること、今の問いに使えることは、それぞれ違う。 私が答えを受け取るときに大切にしたいのは、この区別だ。
この記事は全文無料で、定義と原因の基本、資料と説明の見方、確認できないときの考え方まで扱っている。
ハルシネーションは、もっともらしい誤り
生成AIが、事実と異なる内容や、与えられた資料と合わない内容を、確かなことのように示してしまう。こうした現象を、ハルシネーションと呼ぶ。
米国のNISTは、誤った内容を自信のある形で生成することに加え、入力から外れたり、同じ文脈で以前の記述と矛盾したりすることも「Confabulation」のリスクとして整理している。NISTの定義・第2.2節
たとえば、実在しない本を参考文献として挙げる。資料に書かれていない理由を、決定事項として付け足す。「一部の人」を対象とした説明を、「すべての人」に広げる。異なる日付の案内をまとめ、今も同じ条件だと説明する。
これらは誤りの種類を示すための例で、私が実際に受け取った回答を再現したものではない。どれも、文章の滑らかさだけでは判断しにくいところに問題がある。
見出しがあり、理由が並び、結論まで整っていると、内容まで確かめられたように受け取りたくなる。私は、その受け取り方を自分でも点検したい。
ここで、AIが人と同じ意図で相手をだます、と決めつける必要はない。私が見たいのは、返ってきた内容が、事実や資料と合っているか、使う根拠があるかという点だ。
曖昧な指示だけが原因ではない
文章を生成する大規模言語モデルは、入力や、それまでに生成した文章に続く言葉を予測する。Googleの解説でも、モデルそのものは、正しい情報を確実に取り出すデータベースと同じではないと説明されている。Googleの生成AI解説
自然な文章を作れることと、その中の主張が正しいことは一致しない。外部のサイトを検索していなくても、誤った内容は生じ得る。
さらに、OpenAIの研究解説は、学習や評価の仕方が、不確実さを認めるよりも答えを推測する振る舞いを促し得ると論じている。OpenAIのハルシネーション解説
だから、原因を「指示が曖昧だったから」「ネットの情報が多すぎるから」という一つの理由だけにはできない。
目的や資料の範囲を伝えることには意味がある。けれど、指示を詳しくすれば誤りがなくなる、とは言えない。私は、伝え方を工夫することと、結果を確認することを両方残したい。
対策で誤りを減らすことと、完全になくすことにも違いがある。Googleも、ハルシネーションを完全に防げるとはしていない。低減の限界についての説明
材料の確認と、説明の確認
私が講義資料で検索の可否を伝えるのは、どこを材料にするかを分かるようにしたいからだ。
ただ、「検索しない」は、正しさの保証ではない。使う情報の範囲を限定する指示であり、与えた資料の読み違いや、書かれていないことの付け足しまで防ぐとは限らない。
私は、調べものの答えを受け取るとき、二つの確認を分けて考えたい。
材料の確認。 何を読み、誰について、いつの情報を集めたか。その資料が、今の問いに使えるものか。
説明の確認。 その材料から、どこまで言えるか。書かれていない理由を補ったり、条件を広げたりしていないか。
正しい資料を選べても、説明の中で意味が変われば、そのまま使うことはできない。反対に、文章を分かりやすく直しても、材料そのものの取り違えは残る。

何を読んだかと、その資料から何を言えるかを別に確かめ、今の問いへ使う判断につなぐ。
矢印は読む順。正しい資料を読んだことだけで、説明や採用の適切さは保証されない。
OpenAIの開発者向け資料も、必要な情報を取得する段階の問題と、正しい情報があってもモデルが適切に答えない問題を分けている。私がここで分けたい確認とも重なる見方だ。OpenAI「Optimizing LLM Accuracy」
元の資料より強いことを言っていないか。私自身の推測を、資料に書かれた事実として扱っていないか。AIの説明へ向ける視点を、自分が言葉にするときにも残しておきたい。
出典リンクがあっても、確認は終わらない
出典へのリンクは、後から確かめる入口になる。私は、その入口を残すことを大切にしている。
一方で、リンクが付いていることと、そのページが主張の根拠になっていることは違う。
リンク先が実在していても、別の時期の情報かもしれない。大学生についての調査を、高校生にもそのまま当てはめているかもしれない。利用時間は書いてあっても、料金には触れていないかもしれない。
私は、出典の有無だけでなく、答えに書かれた内容と、その資料の記述が対応するかを見たい。
AIに根拠となる箇所を示してもらうことは、確認の助けになる。けれど、示された記述が本当にあるか、その意味と答えが合っているかは、元の資料に戻って確かめる必要がある。
AnthropicもClaude向けの文書で、資料の記述に回答を結び付け、主張を出典と照合する考え方を説明している。これは誤りを減らすための助言で、どの製品でも同じ効果が保証されるという意味ではない。Anthropic「Reduce hallucinations」
参考サイトの数だけも、判断の基準にはしたくない。三つのページが同じ一つの発表を紹介していれば、三つの独立した証拠があるとは限らない。元の発表へ戻れることに意味がある。
さらに、資料との一致と、現在の事実の確認にも違いがある。昨年度の案内を正確に要約できても、今年の条件を答えたことにはならない。
その資料は誰が、何の目的で出したのか。どの時点の、誰についての話なのか。私が知りたいことに関係するのか。リンクは、そこを確かめるための入口として使いたい。
未確認と、誤りを分けておく
私は、確認できない情報を、そのまま正しい答えとして使いたくない。同時に、確認できないからといって、反対の説明が正しいとも決めたくない。
資料を読めなかったことと、読んだ資料に記述がなかったことは違う。そこに記述がないことと、その内容が現実に誤っていることも違う。
まだ確かめられていない説明を、すぐハルシネーションと断定すればよいわけではない。「分からない」という状態を残す必要もある。
私にとって保留は、考えることをやめる意味ではない。何をまだ確認していないか、何が分かれば判断できるかを見失わないための選択だ。
AIの断定を気にするなら、自分の断定にも同じ余地を残しておきたい。
AIを使ったあとにも、自分で考えられるように
ハルシネーションを知っても、AIを使うこと自体をやめるのが、私の結論ではない。
整理や別の見方を助けてもらいながら、その説明を使う理由は自分で考えていたい。
私はAIの回答を自分なりの言葉に変え、本当にそう言えるのか、その考えは正しいのかと自問する習慣を大切にしている。言い換えられたことを、根拠が確かめられたことに置き換えず、必要なら資料へ戻る。
読みやすさと正しさ。材料の適切さと説明の正確さ。未確認と誤り。その区別を持つことで、私は返答を丸ごと信じるか疑うか、という受け取り方から少し離れて考えられると思う。
参考文献は、文章を確かに見せる飾りではない。自分で考え直す場所へ戻るための入口として、大切にしたい。
参考資料
NIST「Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile」(2024年7月)、第2.2節「Confabulation」。
Google「Addressing misconceptions and answering questions about GenAI」(2024年9月30日)。言語モデルの生成と、低減の限界について。
OpenAI「Why language models hallucinate」(2025年9月5日)。学習・評価と、不確実な場面での推測の関係について。
OpenAI「Optimizing LLM Accuracy」。情報取得と回答生成、それぞれの問題について。
Anthropic「Reduce hallucinations」。Claude向けの助言。私の体験の効果や、全製品に共通する効果率を示す資料としては使っていない。