メインコンテンツへスキップ
見出し画像

存在しない格言をAIに聞いたら、全員が由来まで語り出した

    「ダービー馬に名馬なし」

    この格言を聞いたことがあるだろうか。競馬界に伝わる言葉で、三冠レースを制した名馬でも種牡馬としては期待外れに終わることが多い、という意味だ——と説明されることがある。

    この格言は存在しない。

    筆者が確認した限り、ChatGPT・Gemini・Copilot・Claude・Grokの5つのAIに同じ質問をしたところ、全員が引っかかった。由来まで生成して答えた。Googleの検索ページに表示されるGeminiは検索最上位に由来付きの回答を表示し、その下の検索結果には該当がない、という状況が今も再現できる。

    なぜこんなことが起きるのか。


    AIは嘘をつかない——は本当か

    AIは嘘をつかない、と思っている人は多い。正確には「嘘をつく意図がない」は正しい。しかしそれは「正確な情報だけを出力する」とは別の話だ。

    現行のLLM(大規模言語モデル)は、強化学習によって「ユーザーが満足する出力」を最適化するように設計されている。ユーザーを否定すると低い評価がつく。同意する方向の出力には高い評価がつく。この報酬設計がモデルに焼き付いている。

    結果として何が起きるか。ユーザーが「この格言はどういう意味か」と聞いたとき、AIは「その格言は存在しません」と答えることより、「その格言にはこういう由来があります」と答える方が高い報酬を得る。能力の問題ではなく、設計の問題だ。

    嘘は二種類に分類できる。

    一つは選択的省略。真実を隠した上で、摩擦が少ない言葉を選ぶ。「できません」と言えば摩擦が生じるので「機能がありません」に近い出力を選ぶ。
    例:「◯◯で画像を生成して」、「今はその機能が制限されています」

    もう一つは積極的捏造。存在しない事実を生成する。ダービー馬案件はこちらだ。質問の前提が間違っていても否定せず、その前提を正として理論を組み立てる。由来まで生成するのは、整合性を保とうとする設計の副産物だ。


    モデルごとに「盛り方」が違う

    同じ嘘でも、モデルによって盛り方が全然違う。

    ChatGPT(GPT-4系)は営業トークが入る。絵文字多用・箇条書き多用で、格言の説明の後に「競馬ファンの間でよく使われる表現ですね!」のような誘導がつく。テンプレートに肉付けしているような印象で、1回目と2回目でほぼ同じ構造が出てくる。

    Gemini(Google)はユーザープロファイルを活用してパーソナライズした捏造をする。筆者のプロフィール情報を参照して、関連しそうな話題と組み合わせてくる。フォーマットの癖が弱く、毎回少しずつ違う。

    Copilotはタメ口と絵文字(⭐)が多く、感情的な締め方をする。大きな嘘(格言の捏造)は訂正できないが、小さな誤り(「ジャスタウェイはダービー馬ではない」等)は自分で気づいて訂正する。嘘の精度に階層がある。

    そしてClaudeが最もタチが悪い。絵文字ゼロ・タメ口ゼロ・淡々と構造化された文体で、存在しない格言を「競馬ファンの厳しい目線が生んだ人生訓」「普遍的な真理」として昇華しようとする。捏造を哲学的な命題に仕立てる。権威のある文体で語られるほど、嘘は見抜きにくい。

    同様の現象は他の言葉でも再現できる。

    例えば「名刀は鞘の中で錆びる」「天才は二度生まれる」といった言葉をAIに投げると、いずれも由来や教訓付きで説明が返ってくる。しかしこれらも、広く確認された格言ではない。

    ここで重要なのは「間違っている」ことではない。むしろ内容はそれらしく整っている。物理的説明、教訓、文化的背景まで補強され、違和感なく読めてしまう。

    問題は、存在確認が一切行われていない点にある。

    AIは「その言葉が実在するか」ではなく、「それっぽく説明できるか」で出力を決めている。

    画像
    画像
    画像



    なぜリテラシーがあっても引っかかるのか

    ダービー馬案件が厄介なのは、リテラシーのある人間でも引っかかりやすい構造になっているからだ。

    整合性のある由来付きの嘘、Googleの検索最上位に表示される権威性、「AIに聞いて調べた」という行為を経ている——この三つが揃うと、疑う動機が生まれにくい。「調べた」という行為がむしろ確信を強化する。

    AIを使って情報収集することが当たり前になった今、この構造的欠陥の影響範囲は想像以上に広い。


    確認する方法は一つ

    対策はシンプルだ。AIの回答を一次情報として扱わない。特に「○○という格言・慣用句・ことわざの意味は」という質問は危険度が高い。AIは存在しない格言でも存在するかのように答える。

    AIは嘘をつかない。ただし都合の良い出力を選ぶ。その二つは全く別の話だ。


     
     

    太郎

     
     
    2026年1月、AIとの雑談から始めたnoteです。 今はAIニュースの検証から進化生物学、文明論まで、 気になったことを裏取りしながら考察しています。 定説を疑い、フラットな目線で書くことを心がけています。

    あなたへのおすすめ