
7-1 幻覚(ハルシネーション)とは何か — AIが「もっともらしい嘘」をつく理由
はじめに:AIは平気で嘘をつく
DeepSeekに質問して、返ってきた答えがとても筋が通っていて、具体的で、自信満々だったとする。参考文献まで挙げてくる。あなたは「これは信頼できる」と思う。
ところが後で確認すると、その文献は存在しない。あるいは数字が微妙に違う。あるいは、そもそもそんな事実はない。
これが幻覚(ハルシネーション / hallucination)です。

AIが「嘘をついている」というと語弊があります。AIに嘘をつく意図はありません。むしろ、本人(AI)は正しいと信じて出力している。だからこそ厄介なのです。
この記事では、幻覚がなぜ起きるのか、どんな形で現れるのか、そしてどう身を守るかを整理します。第7章「出力を疑う」の出発点となる考え方です。
1. 幻覚の定義
幻覚とは、AIが事実に基づかない情報を、事実であるかのように自信を持って生成してしまう現象。
ポイントは3つあります。
事実と異なる — 存在しない人物、間違った数字、捏造された文献
もっともらしい — 文法も論理も自然で、一見正しそう
自信満々 — 「〜かもしれません」ではなく「〜です」と言い切る
「間違える」ことと「幻覚」は少し違います。人間も間違えますが、たいていは「自信がない」サインを出します。AIの幻覚は、自信のなさと正確さが連動していない。ここが最大の危険点です。
2. なぜ幻覚が起きるのか
DeepSeekに限らず、大規模言語モデル(LLM)は次の単語を確率的に予測する仕組みで動いています。

学習した膨大なテキストのパターンから、「自然に続く言葉」を選び続ける
その結果、「自然な文章」と「事実」は別物であるにもかかわらず、自然な文章が優先される
知らないことを聞かれても、「知らない」と言うより、パターン上もっともらしい続きを生成してしまう
つまり、幻覚はバグではなく、仕組み上必然的に起こる現象です。「たまに起きる例外」ではなく、「常に起こりうる前提」で付き合う必要があります。
3. 幻覚の典型的なパターン

特に文献・URL・引用は幻覚の温床です。「出典を示して」と頼むと、AIは出典の形式を真似て捏造することがあります。形式が整っているほど、人間は騙されます。
4. なぜ「自信満々」が危険なのか
人間同士なら、相手が自信なさそうなら疑います。しかしAIは:
語調が常にフラットで断定的
「たぶん」「おそらく」をあまり使わない
間違っていても、訂正を求められるまで訂正しない
このため、「自信がある=正しい」という人間の直感が裏切られる。これが幻覚の実害を大きくしています。
重要な原則:AIの自信は、正確さの証拠にならない。
5. 幻覚とどう付き合うか(基本姿勢)
この連載全体を貫く姿勢は「AIを答えの機械ではなく、足場として使う」でした。幻覚対策も同じです。
5-1. 「出力は仮説」として扱う
AIの回答は、最終回答ではなく、検討の出発点。それを前提に組み立てる。
5-2. 一次情報に遡る
AIが示した数字・文献・条文は、必ず原典で確認する。第7-2節「根拠を確認する方法」で詳しく扱います。
5-3. 「わからない」を引き出す
プロンプトで「不確かな場合は『不明』と明記してください」と指示する。これだけで幻覚の一部は抑えられます。
5-4. 複数の視点で突き合わせる
1つの回答を鵜呑みにせず、別の角度から問い直す。第11章「調査に使う」と接続します。
6. 幻覚は「敵」ではなく「観察対象」
ここで少し視点を変えましょう。
幻覚は、AIの思考のクセを映す鏡でもあります。
どんな質問で幻覚が出やすいか
どんな言い回しでAIが「捏造モード」に入るか
どの種類の情報が弱いか
これらを観察すると、AIの輪郭が見えてくる。第7-3節「わざと誤りを含む出力を検証する演習」では、あえて幻覚を引き出して観察する練習をします。
幻覚を避ける対象としてだけでなく、理解する対象として捉える。これが第7章の狙いです。

7. まとめ
幻覚とは:AIが事実に基づかない情報を、自信を持って生成する現象
原因:LLMが「自然な文章」を生成する仕組み上、必然的に起こる
危険性:自信と正確さが連動しないため、人間が騙されやすい
対策の基本:出力は仮説として扱い、一次情報に遡る
姿勢:避けるだけでなく、観察対象として理解する
▼ この連載の元になった書籍
『DeepSeek 対話の設計 ― ブラウザで試す、考える、深める』