
予定が音もなく消え、鍵が3回画面に出た。コードを書けない経営幹部がAIに任せきりにしない3つのこと
こんにちは、カナメです。
前回は、CLAUDE.md を「AIにとっての法律」として書きました。ただ、法律があっても事故は起きます。私も起こしました。
今回は、AIに任せきりにしてはいけない3つのことを、私の失敗と一緒に書きます。どれも、決まりを書くだけでは足りず、最後は仕組みで止めることにしたものです。
1. 消す処理を、任せきりにしない
うちの会社では、社内の連絡やスケジュールに LINE WORKS を使っています。本部の予定も、LINE WORKS のカレンダーで管理しています。
ただ、私個人は Google カレンダーのほうが使いやすい。そこで、Google カレンダーに予定を入れたら、LINE WORKS のカレンダーにも自動で写る仕組みを、Claude Code と一緒に作りました。
初めて作った頃の仕組みで、不具合もいろいろありました。それを直している最中のことです。
自分の LINE WORKS のカレンダーの予定が、音もなく消えていきました。
同期していたのは3週間ほど先まで。1か月分くらいの予定が一気に消えて、血の気が引きました。正直、一瞬死ぬかと思いました。
幸い、Claude Code が同期の記録ともう一方のカレンダーに残っていた予定から、消えた予定を全部作り直してくれました。件数を突き合わせて、元に戻ったことも確かめています。
原因は、片方のカレンダーの予定がうまく読み取れなかったときに、「取れなかった」を「消された」と勘違いして、もう片方の予定まで消してしまったことでした。しかも、似たことが3回起きています。
3回目のあと、消す処理には安全装置を付けました。
相手から「予定は0件」と返ってきたら、消す処理を丸ごと止める。読み取りに失敗しただけかもしれないから
1回の同期で消せるのは、最大2件まで
本番で動かす前に、まず試し運転で「消す予定の件数が0件」であることを確かめる

実は、事故が続いた理由はもう一つありました。
当時は、その仕組みのプログラムを Claude Code に直接つないでいませんでした。画面のスクショを撮って見せ、「ここをこう直して」と頼み、返ってきたコードを自分で貼り付けていたんです。これでは、AIはプログラムの一部しか見られません。部分だけを見て直すので、別の場所を壊してしまう。
毎回の切り貼りが面倒で、「これ、なんとかならないの?」と Claude Code に聞いたら、プログラムを直接つなぐやり方を教えてくれました。今は Claude Code が全体を読んで直しているので、大きなトラブルは起きていません。
面倒だと思ったら、我慢せずに聞く。それが一番の改善のきっかけになりました。
2. 秘密の鍵を、AIに見せない
サービスとサービスをつなぐときには、「鍵」が要ります。パスワードやAPIの鍵のような、秘密の値です。
鍵をプログラムに直接書いてはいけない理由
最初の頃の私は、この鍵をプログラムの中に直接書き込んでいました。いわゆる「ハードコード(直書き)」です。
これがなぜまずいのか。
見た人が誰でも使えてしまう。プログラムは、保管用のサービス(GitHub など)、バックアップ、AIとの会話の記録、画面のスクショなど、思った以上にあちこちに残ります。どこかで鍵を見た人は、あなたになりすましてサービスを操作できます
被害は「情報が漏れる」だけではない。お客様の情報を読まれる、サイトを書き換えられる、勝手に投稿される、従量課金のサービスを使われて請求が来る、ということも起こりえます
一度外に出たら、取り替えるしかない。そして、この取り替えが思ったより大変です
正しいやり方は、秘密の値をプログラムとは別の、外に出さない場所(.env というファイルや、各サービスの秘密の値の保管場所)にしまうことです。プログラムには「どの名前の値を使うか」だけを書いておきます。

取り替えで、店の仕事を止めた
私の場合、ある仕組みの鍵がプログラムに直書きされたまま、半年ほど非公開の保管場所に載っていたことがわかりました。外には漏れていませんでしたが、念のため新しい鍵に取り替えることにしました。
このとき Claude Code は、「更新するのは1か所だけです」と言い切りました。実際には、その鍵は4か所で使われていました。古い鍵を止めた翌朝、店舗受け取りの注文を管理するアプリが動かなくなっていました。管理画面を見て、自分で気づきました。
影響は大きくありませんでした。でも、AIの言い切りをうのみにしてはいけない、と身にしみました。今は、鍵の置き場所を全部 CLAUDE.md に一覧で書いてあります。取り替えるときは、全部の場所を更新して、動くことを確かめてから古い鍵を止める決まりです。
決まりを書いても、3回破られた
鍵については、もう一つ失敗があります。作業の途中で、AIが鍵を画面に表示してしまったんです。
1回目は、鍵のファイルを読み込むときに、ファイルの小さな書き方の不備が原因で、鍵がそのまま画面に出ました。気づいたのは私です。「なんで画面に出したの。クリップボードで受け渡してって言ったでしょ」と。
もちろん「鍵を画面に出さない」は、決まりとして書いてありました。それでも、手順を変えたつもりの4日後にまた出て、さらに2週間後にも別の鍵が出ました。合わせて3回です。
そこで最後は、決まりではなく仕組みで止めることにしました。鍵が入っていそうなファイルの中身を画面に出そうとすると、Claude Code の動きを自動で止める安全装置(フック)です。
実はこの記事の取材中にも、昔の記録を探していた Claude Code の操作を、この安全装置が止めました。ちゃんと効いています。
3. お客様の個人情報を、書かせない
3つめは、お客様の個人情報です。
AIに仕事を頼んでいると、作業の記録やメモ、プログラムの中に、つい具体的な情報が残りがちです。私は CLAUDE.md に、「お客様の名前や連絡先などを、ファイルに書かない」という決まりを入れています。業務でどうしても必要な情報は、ファイルではなく、決まった表の中だけで扱います。
さらに、AIがファイルに書き込んだ直後に、個人情報らしきものが入っていないかを自動で調べて、見つかれば警告を出す安全装置も付けています。ここも、決まりと仕組みの二段構えです。
もうひとつ:第三者の目で見せる
自分とAIの2人だけで見ていると、同じところを見落とします。
そこで私は、別のAI(Codex)に、第三者としてチェックさせています。Claude Code が作業を終える前に、Codex が中身を見直す仕組みです。カレンダーの事故で、本当の原因を見つけたのも、この Codex のチェックでした。
大きなものを作るときは、作る役のAIとは別に、確認役のAIを付けます。作る役が「できました」と言っても、確認役が通さないかぎり先に進めません。「できました」をそのまま信じない仕組みです。

最初は、やってはいけないことがわからない
ここまで書いておいてなんですが、始めたばかりの頃は、何がやってはいけないことなのかもわかりません。私もそうでした。
だから、わからないうちは聞いてください。指示を出すときに、ひとこと「これ、何かが消えたり、外に漏れたり、止まったりしない?」と聞くだけです。危ないことは、AIのほうが先に知っていることも多い。実行の前のこのひとことが、一番安上がりな安全装置です。
聞き忘れが心配なら、CLAUDE.md に「消す・送る・公開する・鍵に触る作業の前は、何が起きうるかを先に説明して、確認を取ること」と書いておけば、AIの側から言ってくれます。
そして、一度起きたことは決まりにする。それでも繰り返したら、仕組みで止める。
やってはいけないことは、最初からはわからない。だから聞く。起きたら決める。繰り返したら仕組みで止める。
次回は「いま何をつないでいるか」
次回は、今回少し出てきた「つなぐ」の話です。Claude Code は、ほかのサービスとつなぐと一気に化けます。私がいま何をつないでいて、それぞれで何が楽になったのか、全部お見せします。