メインコンテンツへスキップ
見出し画像

AIがそれっぽい嘘を書くのはなぜ?|資料に無いことを足していた


    更新日:2026年11月1日 表現を見直しました

    AIが、それっぽい嘘を書く。記事を書かせていて、いちばん気味が悪かったのは、渡していない数値が原稿に入っていたことでした。

    しかも、入ったあとは見分けがつかないんです。調べた話も、AIが自分の知識で足した話も、文章の見た目は同じですよね。

    「確認できないことは書かないで」と指示に足しました。それでも混ざる。

    止まったのは、指示を書き直したときじゃありません。作業ごとに分けたAIのうち、書くAIから調べる道具を取り上げたときです。そのとき書いた行と、取り上げたあとに決めた「足りない場所の出し方」を、そのまま載せます。

    「確認できないことは書かない」は、なぜ守られない?🔍

    最初にやったのは、AIに渡しているルールのファイルに行を足すこと。これは効きませんでした。いま読んでも、書いてあること自体は間違っていないんですけどね。

    公式情報で確認できないことは、確認できないと書く

    理由は単純で、本人は確認したつもりでいるからです。

    確認したつもりの相手に「確認できていないことは書かないで」と言っても、本人の中に該当する箇所が無いんです。自分には関係ない指示として通り過ぎる。ここが厄介でした。

    AIが足すのは、知らないとき? 足せるとき?🧩

    答えは後者でした。知識が足りないときではなく、渡した資料に無いところがあって、それを自分で足せる状態のときに足されます。

    書くAIが自分で検索できると、足りない部分をその場で探しに行きます。見つけたものを本文に入れて、原稿は全部そろった形で出てくる。

    でも、探した先が正しいかを判断するのは、書くAIの仕事じゃない。だから、調べる側が目を通していない情報が記事に混ざるんです。


    画像

    検索の道具を取り上げた🚫

    変えたのは、AIの持ち物のほうです。指示の文はそのままにしました。

    私の作業は、8つのAIに分けています。調べるAI、書くAI、直すAI、記事どうしをつなぐAI、など。このうち書くAIには、インターネットを見る手段を持たせていません。

    そのAIの設定を書いたファイルに、そのまま書いてあります。

    .claude/agents/writer.md
    
    description  リサーチ結果ファイルのみを情報源として(中略)Web検索は行わない
    
    本文          あなたはWeb検索・WebFetchのツールを持っていません。
                  これは事故防止のための意図的な制限です。
    
    使ってよい    research/keywords/{スラッグ}.md
                  research/products/{スラッグ}.md

    この2つに載っていない仕様・価格・スペックを、自分の知識や推測で補ってはいけない。そう続けてあります。

    指示との違いは、守るのに手間がかからないこと。道具が無ければ、自分で調べに行く道そのものが無くなります。

    足りない場所は、どう出させる?📄

    取り上げるだけだと、こんどは原稿が出てこないんです。だから、足りない場所の出し方を先に決めました。

    [要リサーチ: 具体的に何が足りないか]

    本文のその位置に、この形で残させます。角かっこの中には、何が無いのかを書かせる。

    一見、「仕事してないのでは?」と思いますよね。でも、空欄が空欄のまま出てくるのが正しい状態なんです。空欄の場所が、そのまま確かめる場所になりますから。

    最初に足した「確認できないことは書かない」の行は、ここまでやって初めて動くようになりました。

    外しても、突き合わせは残る🧾

    資料どおりに書かれる保証は、これだけでは出ません。無くなったのは、AIが自分で調べて、確かめる場所を増やす道のほう。確かめる作業そのものは残ります。

    資料が1つにまとまったからといって、そのとおりに書かれているとは限らないんです。渡した資料と原稿が合っているかは、やっぱり自分で突き合わせることになります。

    そこで、調べるAIが作るファイルのほうに、書かせないことを先に書くようにしました。実際の2行です。

    (キーワード調査のファイル)
    writerは断定せず、「〜という声が見られる」とは書かないこと(出典がないため)
    
    (商品調査のファイル)
    具体的なモニター重量の数値は出典がないため書かない

    どちらも、調べる側が「ここは調べきれなかった」と名指しして渡す形です。資料に無いところを知っているのは調べた側で、書く側からは、そこが無いのかどうかも見えません。

    もう1行、書くAIのほうにも足しました。2026年9月1日のぶんです。

    調査ファイルで「ベネフィット」欄が空欄のままの機能は、落とす対象にする

    読者の生活で何が起きるかを書けない機能は、調べたから載っているだけの可能性が高い。そう考えました。

    資料が無い回は止まる⛔

    書けない回が出てきます。

    2026年7月17日に、公開済みの記事をまとめ直す作業をしました。このとき、9本ぶんを保留しています。

    その9本に対応する商品の調査ファイルが無く、仕様を比べる形にするには調べ直すしかなかったからです。同じ日に、調査ファイルが揃っていたデスクライトの2本は、統合まで進みました。

    進んだ    調査ファイルがある    デスクライト系2本 → 統合まで
    止まった  調査ファイルが無い    9本 → 新規の調査が必要として保留

    止まったほうを報告に書くと、手が遅く見えます。わりと痛いところ。でも、ここで進めるには、無い数字を作るしかなかったんです。

    ここまでが、実際にやったことです。検索を持たせた状態と外した状態で、同じ記事を書かせて比べてはいません。なので「混ざらなくなった」とは書けない。書けるのは、自分で調べに行く道を閉じたことと、足りない箇所が名前付きで出てくる形にしたことまで。

    試したのはClaude Codeだけなので、他の道具で同じになるかも分かりません。

    まとめ🙌|今日、どの道から閉じますか

    指示を足す前に、資料に無いところをAIがどう扱っているかを見るほうが早いです。私なら、この順で見ます。

    1  AIが書いた原稿から、自分が渡していない数値を1つ探す
    2  その数値がどこから来たかを見る(検索したのか、知識で足したのか)
    3  自分で調べに行く道を閉じるなら、足りない箇所の出し方を先に決めてから閉じる

    3を飛ばすと、閉じた日から原稿が出てこなくなります。そこで慌てて道具を戻すことになるので、空欄の形を決めるのが先です。

    副業でAIに下書きを書かせていると、調べさせたほうが早いように感じますよね。私もそうしていました。でも4か月やってみて、確認の量が減ったのは、調べさせるのをやめたほうでした。

    もっとデスク環境や副業の運用ネタを見たい方は、マガジンをフォローしていただけると更新をお届けできます。

    正直、検索を取り上げるときはだいぶ迷いました。せっかく調べられるのに、わざわざ目を塞ぐんかと。
    やってみたら、空欄で出てくるほうが楽でした。埋まっとる原稿は、どこがAIの足した話か分からんけぇ全部読み直すことになる。空欄なら、そこだけ自分で調べりゃ済むんですよ。遅く見えて、こっちのほうが早かったです。

    この記事で出した実物は、設定の抜粋と、調査ファイルに書いた2行です。同じ形を自分の環境で作るときに必ず詰まる3か所と、その抜け方は、続きの記事(¥980)に書いています。8つのAIの分け方の表と、書くAIの設定の実物も入っています。

    AIに同じ修正を何度も言い直してしまう話は、別の記事に書いています。守られる行と守られない行の違いが入口です。

    気づけずに公開してしまった事故5件と、そのときルールのファイルに足した行は、有料記事(¥4,980)に書いています。



    #新生活をたのしく
    #副業
    #副業初心者
    #在宅ワーク
    #ガジェット
    #新生活
    #デスク環境
    #デスク周り
    #副業頑張ろう
    #副業で稼ぐ
    #AI活用
    #生成AI
    #ClaudeCode
    #仕組み化
    #note運営

     
     
    AIで副業してる人向けのガジェットを探したり、AIに記事を書かせる運用を試して記録したりしています。夜、リビングの食卓の隅で副業中。 ※Amazonのアソシエイトとして、ヒロト《AIで副業するアラフォーのガジェット探訪》【ガジェ探】は適格販売により収入を得ています。

    あなたへのおすすめ