メインコンテンツへスキップ
見出し画像

7-1 幻覚(ハルシネーション)とは何か — AIが「もっともらしい嘘」をつく理由

    はじめに:AIは平気で嘘をつく

    DeepSeekに質問して、返ってきた答えがとても筋が通っていて、具体的で、自信満々だったとする。参考文献まで挙げてくる。あなたは「これは信頼できる」と思う。

    ところが後で確認すると、その文献は存在しない。あるいは数字が微妙に違う。あるいは、そもそもそんな事実はない。

    これが幻覚(ハルシネーション / hallucination)です。

    画像
    幻覚(ハルシネーション / hallucination)アーキテクチャ

    AIが「嘘をついている」というと語弊があります。AIに嘘をつく意図はありません。むしろ、本人(AI)は正しいと信じて出力している。だからこそ厄介なのです。

    この記事では、幻覚がなぜ起きるのか、どんな形で現れるのか、そしてどう身を守るかを整理します。第7章「出力を疑う」の出発点となる考え方です。


    1. 幻覚の定義

    幻覚とは、AIが事実に基づかない情報を、事実であるかのように自信を持って生成してしまう現象。

    ポイントは3つあります。

    1. 事実と異なる — 存在しない人物、間違った数字、捏造された文献

    2. もっともらしい — 文法も論理も自然で、一見正しそう

    3. 自信満々 — 「〜かもしれません」ではなく「〜です」と言い切る

    「間違える」ことと「幻覚」は少し違います。人間も間違えますが、たいていは「自信がない」サインを出します。AIの幻覚は、自信のなさと正確さが連動していない。ここが最大の危険点です。


    2. なぜ幻覚が起きるのか

    DeepSeekに限らず、大規模言語モデル(LLM)は次の単語を確率的に予測する仕組みで動いています。

    画像
    幻覚が生まれる内部メカニズム
    • 学習した膨大なテキストのパターンから、「自然に続く言葉」を選び続ける

    • その結果、「自然な文章」と「事実」は別物であるにもかかわらず、自然な文章が優先される

    • 知らないことを聞かれても、「知らない」と言うより、パターン上もっともらしい続きを生成してしまう

    つまり、幻覚はバグではなく、仕組み上必然的に起こる現象です。「たまに起きる例外」ではなく、「常に起こりうる前提」で付き合う必要があります。


    3. 幻覚の典型的なパターン

    画像

    特に文献・URL・引用は幻覚の温床です。「出典を示して」と頼むと、AIは出典の形式を真似て捏造することがあります。形式が整っているほど、人間は騙されます。


    4. なぜ「自信満々」が危険なのか

    人間同士なら、相手が自信なさそうなら疑います。しかしAIは:

    • 語調が常にフラットで断定的

    • 「たぶん」「おそらく」をあまり使わない

    • 間違っていても、訂正を求められるまで訂正しない

    このため、「自信がある=正しい」という人間の直感が裏切られる。これが幻覚の実害を大きくしています。

    重要な原則:AIの自信は、正確さの証拠にならない。


    5. 幻覚とどう付き合うか(基本姿勢)

    この連載全体を貫く姿勢は「AIを答えの機械ではなく、足場として使う」でした。幻覚対策も同じです。

    5-1. 「出力は仮説」として扱う

    AIの回答は、最終回答ではなく、検討の出発点。それを前提に組み立てる。

    5-2. 一次情報に遡る

    AIが示した数字・文献・条文は、必ず原典で確認する。第7-2節「根拠を確認する方法」で詳しく扱います。

    5-3. 「わからない」を引き出す

    プロンプトで「不確かな場合は『不明』と明記してください」と指示する。これだけで幻覚の一部は抑えられます。

    5-4. 複数の視点で突き合わせる

    1つの回答を鵜呑みにせず、別の角度から問い直す。第11章「調査に使う」と接続します。


    6. 幻覚は「敵」ではなく「観察対象」

    ここで少し視点を変えましょう。

    幻覚は、AIの思考のクセを映す鏡でもあります。

    • どんな質問で幻覚が出やすいか

    • どんな言い回しでAIが「捏造モード」に入るか

    • どの種類の情報が弱いか

    これらを観察すると、AIの輪郭が見えてくる。第7-3節「わざと誤りを含む出力を検証する演習」では、あえて幻覚を引き出して観察する練習をします。

    幻覚を避ける対象としてだけでなく、理解する対象として捉える。これが第7章の狙いです。

    画像
    幻覚対策のワークフロー

    7. まとめ

    • 幻覚とは:AIが事実に基づかない情報を、自信を持って生成する現象

    • 原因:LLMが「自然な文章」を生成する仕組み上、必然的に起こる

    • 危険性:自信と正確さが連動しないため、人間が騙されやすい

    • 対策の基本:出力は仮説として扱い、一次情報に遡る

    • 姿勢:避けるだけでなく、観察対象として理解する


    ▼ この連載の元になった書籍
    『DeepSeek 対話の設計 ― ブラウザで試す、考える、深める』

    あなたへのおすすめ