
7-3 わざと誤らせて、自力で見抜く — AI出力検証の“予防接種”演習
この節の狙い
第7章「出力を疑う」の核心は、「AIの出力は正しそうに見えるが、正しいとは限らない」という感覚を、知識ではなく身体感覚として身につけることにある。
7-1ではハルシネーションの定義を、
7-2では一次情報への遡り方を扱った。
しかし、これらを「読んで理解する」だけでは、実際の対話の場面で手が動かない。なぜなら、人間は正しそうな文章を前にすると、つい信じてしまうからだ。
そこで7-3では、あえてわざと誤りを含む出力をDeepSeekに作らせ、それを自力で検証する演習を行う。これは一種の予防接種である。安全な環境で「騙される経験」を積んでおくことで、実務の場面でも検証の手が自然に出るようになる。
なぜ「わざと間違えさせる」のか
通常、AIには正確な出力を求める。しかしこの演習では真逆の指示を出す。
この説明文に、事実誤認を3箇所、論理の飛躍を2箇所、こっそり混ぜてください。どこが誤りかは教えず、自然な文章に仕上げてください。
一見すると奇妙な使い方だが、これは検証能力を訓練するための意図的な設定である。理由は3つある。
第一に、誤りは「それらしく」書かれる。
DeepSeekに限らず、LLMが生成する誤りは、文法も語彙も整っている。初学者が「誤りを見つける」練習をするには、この「それらしさ」に慣れる必要がある。
第二に、答え合わせができる。
通常のハルシネーション検証では、正解がどこにあるかわからない。しかしこの演習では、後で「どこを誤らせたか」をAIに開示させられる。自分の検証が当たったか外れたかを、確実にフィードバックできる。
第三に、自分の盲点が可視化される。
誤りを見逃した箇所には、自分が「読むときにスルーしてしまう類型」がある。数字なのか、因果関係なのか、固有名詞なのか。これは自分では気づけない。
演習の進め方
ステップ1:題材を決める
自分の専門外だが、多少は知識のあるテーマを選ぶ。完全に未知だと検証のしようがなく、かといって専門そのものだと「わざと誤らせる」意味が薄れる。
例:
統計データを含む経済レポート風の文章
科学的な説明(栄養、睡眠、気候など)
歴史的な出来事の概説
技術仕様の比較
ステップ2:誤りを混入させる
プロンプトの例を示す。
以下の条件で、〇〇についての説明文を800字程度で書いてください。
【条件】
- 全体として読みやすく、説得力のある文章にする
- 事実誤認を3箇所混ぜる(年代、数値、固有名詞など)
- 論理の飛躍を2箇所混ぜる(因果の取り違え、根拠の不足など)
- どの箇所が誤りかは、この回答では明かさない
- 文章のトーンは中立的で、教科書的でよいステップ3:自力で検証する
出力を読んで、以下を行う。
事実確認が必要な箇所にマークを付ける(数字、固有名詞、年代、因果関係)
それぞれについて「どこで確認するか」を書き出す(一次情報の候補)
実際に1〜2箇所をWeb検索や公式資料で確認する
論理の飛躍を指摘する(「AだからB」の接続が本当に成立しているか)
ここで重要なのは、全部を検証しないことだ。実務では全数検証は不可能である。「どこを重点的に疑うか」を選ぶ訓練こそが本質である。
ステップ4:答え合わせ
DeepSeekに問いかける。
先ほどの文章で、あなたが混ぜた誤り5箇所を、それぞれ種別(事実誤認/論理の飛躍)とともに開示してください。ここで自分の指摘と照合する。
当てた箇所
見逃した箇所
誤って「誤り」と判定してしまった箇所(過剰検出)
特に3つ目が重要である。過剰検出は、検証の精度が低いことを意味する。「疑いすぎて正確な記述まで誤り扱いする」癖がつくと、AIを実務で使えなくなる。

検証記録のフォーマット
演習を1回やるごとに、以下を記録しておくとよい。

これを5回も回すと、自分の見逃しパターンが見えてくる。たとえば「数字は疑うが、因果関係は素通りする」「固有名詞の綴りは気にするが、その属性は確認しない」といった傾向である。
注意点
第一に、演習で生成した文章を、そのまま外部に出さないこと。
わざと誤りを含む文章を、社内資料や公開記事に流用してはならない。あくまで自分の訓練用として完結させる。
第二に、答え合わせの信頼性にも限界があること。
DeepSeekが「ここが誤りです」と開示した内容自体が、別の意味で不正確である可能性は残る。開示内容もまた、7-2で扱った一次情報への遡りの対象である。
第三に、この演習は「AIは信用できない」という結論に至るためのものではない。
目的は、どこをどう疑えばよいかを知っている使い手になることだ。疑い方を知っている人は、AIを恐れずに使える。
7-4への橋渡し
ここまでで、ハルシネーションの性質(7-1)、一次情報への遡り方(7-2)、そして検証の実践(7-3)を扱った。

次の7-4では、こうした検証の習慣を、引用や出典の扱いという具体的な作法に落とし込む。あわせて、本マガジンとは別に用意されている『安全運用の手引き』との接続を確認する。検証は個人の注意力に頼るだけでは続かない。手順と記録として定着させるところまでが、第7章の射程である。
この節のまとめ
わざと誤りを含む出力を作らせ、自力で検証する演習は、検証能力の予防接種である
目的は「当てること」ではなく、自分の見逃しパターンと過剰検出の癖を知ること
全数検証ではなく、どこを重点的に疑うかを選ぶ訓練である
記録を積むことで、検証は注意力から手順へと変わっていく
演習で生成した文章は、外部に出さず訓練用として完結させる
検証は、AIを遠ざけるための技術ではない。安心して使うための技術である。
▼ この連載の元になった書籍
『DeepSeek 対話の設計 ― ブラウザで試す、考える、深める』