メインコンテンツへスキップ
見出し画像

7-3 わざと誤らせて、自力で見抜く — AI出力検証の“予防接種”演習

    この節の狙い

    第7章「出力を疑う」の核心は、「AIの出力は正しそうに見えるが、正しいとは限らない」という感覚を、知識ではなく身体感覚として身につけることにある。

    7-1ではハルシネーションの定義を、

    7-2では一次情報への遡り方を扱った。

    しかし、これらを「読んで理解する」だけでは、実際の対話の場面で手が動かない。なぜなら、人間は正しそうな文章を前にすると、つい信じてしまうからだ。

    そこで7-3では、あえてわざと誤りを含む出力をDeepSeekに作らせ、それを自力で検証する演習を行う。これは一種の予防接種である。安全な環境で「騙される経験」を積んでおくことで、実務の場面でも検証の手が自然に出るようになる。


    なぜ「わざと間違えさせる」のか

    通常、AIには正確な出力を求める。しかしこの演習では真逆の指示を出す。

    この説明文に、事実誤認を3箇所、論理の飛躍を2箇所、こっそり混ぜてください。どこが誤りかは教えず、自然な文章に仕上げてください。

    一見すると奇妙な使い方だが、これは検証能力を訓練するための意図的な設定である。理由は3つある。

    第一に、誤りは「それらしく」書かれる。

    DeepSeekに限らず、LLMが生成する誤りは、文法も語彙も整っている。初学者が「誤りを見つける」練習をするには、この「それらしさ」に慣れる必要がある。

    第二に、答え合わせができる。

    通常のハルシネーション検証では、正解がどこにあるかわからない。しかしこの演習では、後で「どこを誤らせたか」をAIに開示させられる。自分の検証が当たったか外れたかを、確実にフィードバックできる。

    第三に、自分の盲点が可視化される。

    誤りを見逃した箇所には、自分が「読むときにスルーしてしまう類型」がある。数字なのか、因果関係なのか、固有名詞なのか。これは自分では気づけない。


    演習の進め方

    ステップ1:題材を決める

    自分の専門外だが、多少は知識のあるテーマを選ぶ。完全に未知だと検証のしようがなく、かといって専門そのものだと「わざと誤らせる」意味が薄れる。
    例:

    • 統計データを含む経済レポート風の文章

    • 科学的な説明(栄養、睡眠、気候など)

    • 歴史的な出来事の概説

    • 技術仕様の比較

    ステップ2:誤りを混入させる

    プロンプトの例を示す。

    以下の条件で、〇〇についての説明文を800字程度で書いてください。
    
    【条件】
    - 全体として読みやすく、説得力のある文章にする
    - 事実誤認を3箇所混ぜる(年代、数値、固有名詞など)
    - 論理の飛躍を2箇所混ぜる(因果の取り違え、根拠の不足など)
    - どの箇所が誤りかは、この回答では明かさない
    - 文章のトーンは中立的で、教科書的でよい

    ステップ3:自力で検証する

    出力を読んで、以下を行う。

    1. 事実確認が必要な箇所にマークを付ける(数字、固有名詞、年代、因果関係)

    2. それぞれについて「どこで確認するか」を書き出す(一次情報の候補)

    3. 実際に1〜2箇所をWeb検索や公式資料で確認する

    4. 論理の飛躍を指摘する(「AだからB」の接続が本当に成立しているか)

    ここで重要なのは、全部を検証しないことだ。実務では全数検証は不可能である。「どこを重点的に疑うか」を選ぶ訓練こそが本質である。

    ステップ4:答え合わせ

    DeepSeekに問いかける。

    先ほどの文章で、あなたが混ぜた誤り5箇所を、それぞれ種別(事実誤認/論理の飛躍)とともに開示してください。

    ここで自分の指摘と照合する。

    • 当てた箇所

    • 見逃した箇所

    • 誤って「誤り」と判定してしまった箇所(過剰検出)

    特に3つ目が重要である。過剰検出は、検証の精度が低いことを意味する。「疑いすぎて正確な記述まで誤り扱いする」癖がつくと、AIを実務で使えなくなる。

    画像
    演習全体のフロー(ループ構造)

    検証記録のフォーマット

    演習を1回やるごとに、以下を記録しておくとよい。

    画像

    これを5回も回すと、自分の見逃しパターンが見えてくる。たとえば「数字は疑うが、因果関係は素通りする」「固有名詞の綴りは気にするが、その属性は確認しない」といった傾向である。


    注意点

    第一に、演習で生成した文章を、そのまま外部に出さないこと。

    わざと誤りを含む文章を、社内資料や公開記事に流用してはならない。あくまで自分の訓練用として完結させる。

    第二に、答え合わせの信頼性にも限界があること。


    DeepSeekが「ここが誤りです」と開示した内容自体が、別の意味で不正確である可能性は残る。開示内容もまた、7-2で扱った一次情報への遡りの対象である。

    第三に、この演習は「AIは信用できない」という結論に至るためのものではない。

    目的は、どこをどう疑えばよいかを知っている使い手になることだ。疑い方を知っている人は、AIを恐れずに使える。


    7-4への橋渡し

    ここまでで、ハルシネーションの性質(7-1)、一次情報への遡り方(7-2)、そして検証の実践(7-3)を扱った。

    画像
    第7章における7-3の位置づけ

    次の7-4では、こうした検証の習慣を、引用や出典の扱いという具体的な作法に落とし込む。あわせて、本マガジンとは別に用意されている『安全運用の手引き』との接続を確認する。検証は個人の注意力に頼るだけでは続かない。手順と記録として定着させるところまでが、第7章の射程である。


    この節のまとめ

    • わざと誤りを含む出力を作らせ、自力で検証する演習は、検証能力の予防接種である

    • 目的は「当てること」ではなく、自分の見逃しパターンと過剰検出の癖を知ること

    • 全数検証ではなく、どこを重点的に疑うかを選ぶ訓練である

    • 記録を積むことで、検証は注意力から手順へと変わっていく

    • 演習で生成した文章は、外部に出さず訓練用として完結させる

    検証は、AIを遠ざけるための技術ではない。安心して使うための技術である。


    ▼ この連載の元になった書籍
    『DeepSeek 対話の設計 ― ブラウザで試す、考える、深める』

    あなたへのおすすめ