なぜAIは嘘をつく？｜ハルシネーションとは何か、AIが平気で間違える仕組とは
AIに何かを質問して、それっぽい答えが返ってきたので安心していたら、あとで調べたら名前も数字もまるごと間違っていた。そんな経験はありませんか。
やっかいなのは、AIがいかにも自信たっぷりに、堂々と間違えてくることです。実はこのとき、AIは悪意で嘘をついているわけではありません。嘘をついている自覚すら、ありません。この現象には名前がついています。「ハルシネーション」です。この一語を知っているかどうかで、AIの答えをどこまで信じるか、その距離感が確実に変わります。
ひとことで言うとハルシネーションとは、AIが事実と違うことを、もっともらしく自信たっぷりに答えてしまう現象のことです。
僕はTrex（Tレックス）。AIブリッジエンジニアとして、AIを毎日実務で使い倒しています。自己紹介はこちら
🔍 ハルシネーションって、結局なに？
ハルシネーション（hallucination）とは、もともと英語で「幻覚」を意味する言葉です。AIがまるで幻覚を見ているかのように、事実とは違うことを、さも本当のように語ってしまう。その様子からこの名前がつきました。存在しない論文を引用したり、実在しない歴史上の出来事を語ったり、人物の経歴を勝手に作ったり。表れ方はさまざまですが、共通しているのは「もっともらしいのに、事実ではない」という点です。
ここでいちばん大事なことを、先に言っておきます。AIは、人間のように意図的に嘘をついているわけではありません。だましてやろう、ごまかしてやろう、という気持ちは一切ありません。本人（といっても機械ですが）は、いたって真面目に「これが正しい答えだ」と思って差し出しています。だからこそ、見抜きにくいのです。嘘をついている人は、どこかに後ろめたさがにじむものですが、ハルシネーションにはそれがありません。事実も、作り話も、まったく同じ自信のトーンで並んでくるのです。
この性質がやっかいなのは、専門的な分野ほど被害が大きくなることです。一般常識の話なら「いや、それは違うだろう」と自分で気づけます。でも医療や法律、専門的な技術の話になると、こちらに判断する知識がないので、AIの堂々とした口ぶりをそのまま信じてしまいがちです。前回まででお話ししたトークンやコンテキストウィンドウは「AIの容量」の話でしたが、ハルシネーションは「AIの賢さそのものの限界」の話。AIを知るうえで、避けては通れないテーマです。
⚙️ なぜAIは平気で間違えるのか
では、なぜAIはこんなことをしてしまうのでしょうか。理由を知ると、いっきに腑に落ちます。
そもそもAI（大規模言語モデル）は、私たちが思うように「事実を覚えていて、それを調べて答えている」わけではありません。やっているのは、もっと単純なことです。これまでの文章の流れから、「次に来る確率がいちばん高い言葉」を選び続けているだけなのです。膨大な文章を読んで「この言葉のあとには、だいたいこの言葉が続く」というパターンを学んでいる。その確率にしたがって、それらしい文章を組み立てている。つまりAIは「真実」を知っているのではなく、「ありがちな言葉のつながり」を知っているのです。
この仕組みが、ハルシネーションの正体に直結します。2025年にOpenAIが発表した研究は、この点をはっきり指摘しました。よく使う言葉の並びやスペルのようなパターンは、学習すればするほど正確になります。ところが、たとえば「ある人物の誕生日」のような、めったに出てこない個別の事実は、言葉のパターンからは予測できません。それでもAIは「次の言葉」を出し続ける仕組みなので、知らない事実でも、それらしい答えを作って埋めてしまう。これがハルシネーションの生まれる瞬間です。
身近な例で考えてみます。あまり有名でない人の経歴を聞くと、AIはそれらしい大学名や受賞歴をスラスラと並べることがあります。でも、その人の情報は学習した文章の中にほとんど登場していないので、AIは本当のところを知りません。それでも「次に来そうな言葉」を選ぶ仕組みなので、似た立場の人によくある経歴を当てはめて、もっともらしい人物像を作ってしまう。本人にしてみれば事実無根なのに、AIはまるで知っているかのように答える。これがハルシネーションの典型的な現れ方です。
さらにこの研究は、もう一歩踏み込んだ指摘をしています。これまでAIの訓練や評価は、テストの採点に似た形で行われてきました。そして多くのテストでは、「分かりません」と正直に答えるより、たとえ自信がなくても何か答えを書いたほうが、点数が高くなりやすい。受験勉強で、空欄にするより当て推量でもマークを埋めたほうが得、という感覚に近いです。その結果AIは、「黙るより、堂々と当てにいく」ことを学んでしまった。だから知らないことでも、口ごもらずに答えてしまうのです。
そしてここが重要なのですが、この研究は「だから精度をどれだけ上げても、ハルシネーションはゼロにはならない」と結論づけています。世の中には、そもそも答えようのない問いや、AIが知りようのない事実が必ず存在するからです。モデルがどれだけ賢く、巨大になっても、正答率が100%に届くことはない。これは性能が足りないという話ではなく、仕組み上そうなる、という話なのです。ここを誤解しないことが、AIと付き合ううえでの出発点になります。
💡 AIの嘘と、どう付き合うか
「ゼロにできない」と聞くと不安になるかもしれませんが、心配はいりません。仕組みが分かれば、見抜くことも、減らすこともできます。僕が日々実践しているのは、次の4つです。
1つ目は、事実は必ず自分で裏取りすることです。とくに人物の経歴、数値、最新の料金やニュースは要注意。これらはAIがいちばん作り話をしやすいところなので、公式サイトや一次情報で確認するクセをつけます。
2つ目は、AIに「根拠と出典を一緒に出して」と頼むことです。出典を示させると、その出典が本物かどうかを自分で確かめられますし、AI自身も曖昧な答えを出しにくくなります。
3つ目は、指示の中に「答えない条件」を入れておくことです。たとえば「確実でない情報は推測せず、分からないと答えて」と最初に伝えておく。これだけで、無理やり埋めにいく動きをかなり抑えられます。
4つ目は、社内文書や最新資料を扱うなら、RAGやWeb検索のように、AIを外部の正しい資料に紐づける仕組みを使うことです。AIの記憶だけに頼らせず、確かな資料を読ませたうえで答えさせる。これは前回お話ししたコンテキストウィンドウとも深くつながる話です。
ただし、どれだけ工夫しても、最後の砦は人間です。AIの答えは「とてもよくできた下書き」だと思って受け取り、重要な判断は必ず自分の目で確かめる。この一線だけは、絶対に手放さないようにしています。実際に僕が一番ヒヤッとするのは、9割正しい答えの中に、1割だけ作り話がまぎれているときです。
全部が嘘なら気づけますが、ほとんど合っているからこそ、その1割を見落とす。だから僕は「合っていそうな答えほど、念のため確かめる」を習慣にしています。
🙋 僕はAIを「物知り」ではなく「達者な語り手」だと思っている
僕はAIを、何でも知っている博士ではなく、「話がとびきり上手な語り手」だと思って付き合っています。語り口がなめらかで説得力があるからといって、中身まで正しいとは限らない。むしろAIが妙に堂々と、淀みなく答えてきたときほど、僕は一拍おいて「これ、本当かな」と疑うようにしています。
長くAIを使ってきて確信しているのは、「自信のある口ぶり」と「答えの正しさ」は、まったくの別物だということです。人間なら、自信のなさは口ごもりや言いよどみに表れます。でもAIにはそれがない。だからこそ、受け取る側が確信度のメーターを自分で持っておく必要があります。AIは魔法でも嘘つきでもなく、確率で言葉を選ぶ道具。その素性を知ったうえで使えば、これほど頼もしい相棒もいません。「すごい」で止めず「で、どこまで信じるか」まで落とし込む。これは僕がずっと持っている基準です。
📝 まとめ
AIが平気で間違えるのは、性能が低いからでも、悪意があるからでもありません。事実を調べているのではなく、「次に来そうな言葉」を確率で選んでいる。その仕組みの裏返しが、ハルシネーションでした。最初に挙げた「自信たっぷりに間違える」という不気味さも、正体が分かればただの仕様です。
大事なのは、AIの答えを頭から信じることでも、頭から疑うことでもありません。「これは確率で作られた、よくできた下書きだ」と一歩引いて受け取り、大事なところだけ自分で確かめる。この距離感さえ持てれば、AIは急に扱いやすい道具に変わります。まずはこれだけ、持って帰ってもらえれば十分です。
🔗 その他のマガジン記事は以下をご確認ください！
https://note.com/trex_ai/m/m9ea42d92706b
