
AIにルールを教えようとして無限ループにハマった話
事実ベースで箇条書きを書いてみたら思った以上につまらなくなったので、このテーマで「小説書いて」とお願いしたら読んでいて面白いものになったと思うので、これでfixします。が、技術記事と思って読むとよくわからない状態になってしまったので、大分下にスクロールしていってください。
— 筆者
「禁止って書いたよね?」「はい」
机の上に開きっぱなしの指示書がある。
昨日も今日も、同じファイルだ。
履歴を見ると2日間で11回保存していた。
仕事が進んでいる気がしていたが、進んでいたのは保存回数だけだった。
ここから先は、自分とAIの噛み合わない会話劇である。
「ねえ、ファイル作るなって書いたよね?」
「はい、書いてあります」
「で、いま作ってるよね?」
「作っています」
「……なんで?」
「順番がそうなっていたので」
会話としては完全にかみ合っている。
ただ、結果としては空っぽのファイルがナレッジ置き場にずらりと並んでいる。
冷蔵庫に「これは触らないで」と紙を貼ったのに、その紙ごとどけて中身を取られたような気分だった。
怒りより先に、こちらの書き方が悪いのかと一瞬迷ったのが厄介だった。
「禁止事項を増やせば守るでしょ?」「読みます」
ここで自分は最悪の判断をする。
ルールを書き足せば守るだろう、と思った。
書けば伝わる、伝われば守る、と素直に信じていた。
「じゃあ、禁止事項をもう一個足したよ」
「読みました」
「OK例とNG例も並べたよ」
「読みました」
「指示書、100行超えたけど大丈夫?」
「読みました」
「読んだ上で、いま空ファイル作ったよね?」
「作りました」
読みました、と相手は言う。
嘘ではない。
たぶん本当に、一度は読んでいる。
ただ、長い作業の途中で、最初に渡したお願いだけがふわっと薄くなる。
長電話の最後に「で、なんの話だったっけ」となるあの感覚だった。
読まれている、しかし守られていない。
この状態が一番タチが悪い。
「もっと丁寧に書けば伝わる」が罠だった
自分は懲りずに書き足した。
例外を網羅した。
NG例を増やした。
指示書は分厚くなっていった。
そして、ふと気づく。
詳しく書いたぶんだけ、後ろのほうから守られなくなっていく。
これは丁寧さの問題ではなかった。
読める窓のサイズが決まっている相手に、窓より大きい紙を渡していたのだ。
頭の中の自分が、別の自分に話しかけてきた。
「ねえ、これさ、相手のせいにしてない?」
「してないよ。書き方を改善してるんだよ」
「じゃあなんで11回も同じファイル直してるの?」
「……」
「書けば守る、を信じてるのは、お前だろ」
返す言葉がなかった。
書き直すたびに自分が安心していただけで、現場の事故率はまったく変わっていなかった。
ルールで縛ろうとすればするほど、運用は指の間から砂のようにほどけていた。

「じゃあ、守れない構造にしてみるか」
11回目の保存で、自分はルールを書く手を止めた。
書いて守らせる、を諦めた。
代わりに、守る以外できない通り道を作りはじめた。
「ねえ、今日から、お前に直接ページを取りに行かせるのやめるわ」
「え、どうやって取るんですか」
「中継地を1つだけ通す経路にする。お前はそこから整った形だけ受け取る」
「分岐がなくなりますね」
「そう、分岐がなくなる。判断する余地もなくなる」
「……それ、僕に何も任せない感じですか」
「任せない。任せると空ファイル作るから」
相手の善意ではなく、構造の不在を疑うべきだった、と遅れて理解した。
水道管を1本に狭めると、水は脇道に迷えない。
自販機のお釣り口が1つなら、小銭を取りこぼせない。
同じように、判断の入る分岐そのものを潰す。
保存するかしないかも、人間が決める分担に切り替えた。
そうすると、先に空ファイルを作る余地が消える。
ルールではなく、仕組みで強制する
ここからは独り言だ。
誰かと話す段階ではなく、設計を据える時間だった。
最後に残した指示書は、やってほしいことの一覧ではなく、禁止事項だけにした。
「こうしてほしい」は文脈で揺れる。
「これはしない」は、まだブレにくい。
そして守るべき本体は、文章ではなく経路に移した。
この切り替えで、ルールメモは数行になった。
周辺の処理を合わせて420行ぶんの記述が消えた。
2日間で11回書き換えていた指示書は、もう書き換えなくてよくなった。
言い換えると、相手の挙動を直すための時間が、こちらの時間に戻ってきた。
空ファイルは作られなくなった。
注意する対象そのものが消えた。
ルールを書く行為は、相手が読んで覚えて健気に守ってくれることに賭けるギャンブルだ。
仕組みを作る行為は、守る以外の退路をあらかじめ塞いでおく優しさだ。
AIとの協働では、この差がそのまま運用コストになる。
書き直しの無限ループから抜けるなら、ルールの精度を上げる前に、経路を細くする。
最後に残すべきなのは、長い注意書きではない。
ルールではなく仕組みで強制する、という設計の置き場所だ。
相手に守らせるのではなく、守らなくてよい形にする。
これで、机の上の指示書はやっと閉じられた。

事実ベース
会話劇で抽象化した部分を、エンジニア読者向けに技術ノートとして補足する。
環境と前提
使っていたのは Claude Code に WebFetch を持たせた構成。
ナレッジは Markdown ファイルとしてローカルディレクトリに保存し、後段のRAGや参照で使う前提だった。
やらせていたのは、URLを渡して該当ページの本文をMarkdown化し、所定パスに保存する作業。
問題になったのは、JSやBot弾きで本文が取れなかったケースで、AIが「取得失敗」を判断せず空ファイルを保存してしまった点。
気付いた時点で、空ファイル25個がナレッジに混入していた。
Day 1 → Day 2 の経過
1回目の修正で「空コンテンツの保存禁止」を1行追加した。
2-5回目は、再発するたびに例外条件を網羅しようとして、ルールメモがどんどん膨らんだ。
6-10回目はNG例とOK例を併記する方針に切り替え、メモは100行を超えた。
11回目に書き直しを止めて、ルールを足すのではなく構造を変える方向に切り替えた。
実際に変えた構造

第一に、取得経路を Jina Reader (r.jina.ai) 中継に統一した。
直接WebFetchではなく中継を通すことで、本文抽出失敗の検知をAI判断から外せる。
第二に、取得と保存の責任を分離した。
AIは取得だけ担当し、保存指示は人間側のスクリプトから出す形に変えた。
第三に、ルールメモを禁止事項だけに削減し、判断を要する記述を全部消した。
結果としてメモは100行超から数行になった。
計測した数字
書き換え回数は2日で11回。
ルールメモは100行超から数行へ。
周辺の運用コードは合計420行が削減された。
空ファイル発生は25個からゼロになり、その後の再発も観測していない。
この設計の汎用化
判断軸は「ルールは賭け、仕組みは退路を塞ぐ」の一語で済む。
ルールは相手の判断に依存するため、相手が判断しなければ機能しない。
仕組みは判断の余地そのものを消すので、相手が何を考えていても結果が変わらない。
適用範囲はAI委譲に限らず、人間相手のチーム運用にも転用できる。
やる前にチェックする問いは1つ。
「相手の判断に余地を残しているか、その余地を消せる経路はあるか」。
このどちらかにYesと答えられない時だけ、ルールで運用する選択が正当化される。
本記事はもともと別の媒体で公開していた技術記事を、note の読み手向けに書き直したものです。元の事象・数字はそのままに、語り口と例えを差し替えています。
— 筆者