AIの回答を「信じすぎた」失敗談

2026年4月22日 20:32

Claudeが出した数字を、確認せずに資料に入れた。

プレゼンで「このデータは？」と聞かれて、答えられなかった。後から調べたら数字が違った。1件のミスで、その資料全体の信頼性を疑われた。Claudeを信頼しすぎた結果だった。

疑うべき情報のチェックリスト

数字・統計。「〇〇%」「〇〇万人」という数字は出典を確認する。Claudeが作ったデータかもしれない。

固有名詞。人名・会社名・書籍名・法律名。存在しないものを生成することがある。

最新情報。「最近の傾向」「今のトレンド」——Claudeの知識は過去のデータが基になってる。2024年以降の話は特に要確認だ。

法律・医療。これは絶対に専門家に確認する。Claudeの回答は参考にはなるが、責任は持てない。

「この回答の弱点や、不確かな点を指摘して」とClaudeに聞く。

これが地味に効く。Claudeは自分の出力の穴を指摘することができる。「〇〇については確認が必要」「△△は私のデータが古い可能性があります」——自己批評をさせることで、どこを確認すべかが見えてくる。

AIは「草案作成」人間は「判断と確認」。この分業が一番うまくいく。

Claudeに任せていいのは：文章の構成・アイデア出し・情報の整理・下書き作成。
人間が確認すべきは：数字・固有名詞・最新情報・法律的判断・最終意思決定。

これを決めておくと、どこを確認すればいいかが明確になる。全部疑うのは非効率。どこを疑うかを決めるほうが現実的だ。

信頼しながら疑う。これがAIと長く付き合うための、正直なスタンスだと思う。