メインコンテンツへスキップ
見出し画像

「書いてあるのに守らない」AIを、仕組みで止める。鍵・お客様の情報・送る前の検査の安全装置(指示つき)

    こんにちは、カナメです。

    無料4本目で、AIに任せきりにしてはいけない3つのことを、私の失敗と一緒に書きました。予定が音もなく消えたこと。決まりに書いてあるのに、鍵が3回画面に出たこと。お客様の情報を書かせないための決まり。

    そこで最後に書いたのが、「起きたら決める。繰り返したら仕組みで止める」でした。今回は、その「仕組みで止める」の実物です。私がいま使っている安全装置一式を、何もない状態から作れるようにお渡しします。

    決まりは「読ませる」もの、安全装置は「止める」もの

    先に、言葉をそろえておきます。

    • 決まり:CLAUDE.md(Claude Code が毎回読む業務マニュアル)に書くもの。「鍵を画面に出さない」と書いておけば、Claude Code はそれを読んで、守ろうとします

    • 安全装置:フック(Claude Code が何かをする直前や直後に、決まった確かめを自動で走らせる仕組み)で作るもの。読むかどうかに関係なく、自動で確かめて止めます

    画像
    決まりは読ませる。安全装置は、読んだかどうかに関係なく仕組みで止める

    有料1本目で書いたとおり、AIは、読んだ決まりより身についた癖が勝つことがあります。セッション(1回の会話)が長くなると、最初に読んだ決まりが薄れることもあります。だから、一度でも起きたら困ることは、決まりに書くだけでなく、仕組みで止めます。


    いま入れている安全装置は3つと、決まりが1つ

    私が入れているのは、次の4つです。

    • 鍵を読ませない(止める):パスワードや API キー(サービスにつなぐための鍵)が入ったファイルの中身を、Claude Code が開いたり画面に出したりしようとしたら止める

    • お客様の情報を書かせない(警告する):作業記録やメモに、メールアドレスや電話番号らしきものが書かれたら、すぐに警告する

    • 送る前に中身を検査する(止める):GitHub(作ったものを保管しておくサービス)に送る直前に、鍵やお客様の情報が入っていないかを調べ、入っていたら止める

    • 承認の前に作らせない(人が握る決まり):実物を変える作業は、私がプランを承認してから

    画像
    仕組みで止める3つと、人が握る1つ

    止めるか、警告にとどめるかは、分けています。外に出てしまう操作(ファイルを開いて画面に出す、外へ送る)は、出てからでは取り返しがつかないので止めます。ファイルに書くほうは、書いたあとでも伏せ字に直せるので、警告にしています。なんでも止めると、AIが止められないように回り道をして、かえって作業が雑になるからです。

    鍵は、2重に止める

    一番大事なのは、鍵です。始めたばかりの人に1つだけ勧めるなら、私はこれを選びます。

    理由は3つあります。決まりに書いても、私のところでは3回出ました。一度画面に出た鍵は、取り替えるしかありません。そして取り替えるときは、その鍵を使っている場所を全部直すまで、仕組みが止まります(無料4本目で書いた、店の仕事を止めた話です)。始めたばかりの人も、最初の週から何かしらの鍵を扱うことが多いはずです。

    止め方は、2つ重ねています。

    • Claude Code の設定で、鍵のファイルを開くことそのものを禁止する

    • フックで、コマンド(ファイルの中身を出す命令)が鍵のファイルを指していたら止める

    画像
    設定の禁止と、フック。どちらか一方だけだと穴が残る

    2重にしているのには、理由があります。私は長いあいだ、フックだけで止めていました。ところが、Claude Code には、コマンドを使わずにファイルを開く機能もあります。フックはコマンドしか見張っていなかったので、そちらは素通りでした。気づいたのは、2026年10月です。いまは設定の禁止を足して、どちらの道からも開けないようにしてあります。

    フックは、止めるときに理由も返します。「秘密のファイルの中身を画面に出そうとしたので止めました。長さや、設定されているかだけを確かめる方法に変えてください」。Claude Code はこれを読んで、中身を出さずに「入っているか」「何文字か」だけを確かめるやり方に切り替えます。

    送る前に、中身を検査する

    3つ目の「送る前の検査」は、ある1日がきっかけです。

    鍵を取り替えた後片付けで、作ったものを保管している GitHub の中を総点検した日がありました。調べると、ある仕組みの鍵が、半年ほど前からそのまま載っていました。非公開の場所で、共有している人もいなかったので、外には漏れていません。

    その日は、送るたびに中身を目で見て、鍵が入っていないかを確かめてから送りました。でも、それはその場のやり方です。明日のAIが、同じ確かめをしてくれる保証はありません。だから、その日のうちに仕組みにしました。

    止めているのは「送ること」ではありません。GitHub に送ること自体は、保管のために許しています。止めているのは「送ってはいけない中身」です。

    止められているのは、AIで、人ではない

    「止まってばかりで仕事にならないのでは」と思うかもしれません。私の実感は逆です。止まりすぎて困ったことは、ほとんどありません。

    実際には、けっこう止まっています。たとえばこの記事を書くための調べものでも、Claude Code が昔の記録を探す検索に「token」という言葉を入れただけで、鍵の安全装置が止めました。Claude Code は、中身を出さずに件数だけを数えるやり方に切り替えて、そのまま進めました。

    私の画面には、止まったことは出てきません。止められているのはAIで、人ではないからです。安全装置は、ふだんは存在を忘れているくらいでちょうどいいと思っています。私にとっては、助かったというより、無いと困る当たり前のものです。

    承認の前に作らせない

    最後の1つは、仕組みではなく、人が握る決まりです。

    私は Claude Code に、分析から作るところまで、ほとんど全部を任せています。その代わり、何をやるか(プラン)の承認だけは、私が握っています。承認の前に、実物を変える作業はさせません。

    画像
    調べる・分析する・たたき台を作るのは自由。実物を変えるのは承認のあと

    線引きは、「実物を変えるかどうか」です。

    • 承認がなくてよいもの:調べる、分析する、たたき台を作る

    • 承認のあとにやるもの:プログラム、商品、配信、データなど、実物の形が変わる作業

    • 承認のあとでも止まって確かめるもの:消す、外に送る、鍵や設定に触る、お金、お客様の情報

    承認したあとは、途中で確認を挟まず最後まで進めてもらいます。毎回確認されると、任せた意味がなくなるからです。

    これは事故を防ぐ決まりというより、役割分担の決まりです。全部を任せる代わりに、承認だけは握る。承認の前に作らせないのは、任せる範囲を広げるための条件だと思っています。

    仕組みで止める3つと、人が握る1つ。この2段構えで、私は安心して任せられています。

    今日から始めるなら、鍵から

    全部を一度に入れる必要はありません。順番は、こうです。

    • まず、鍵を読ませない(APIキーを1つでも扱うなら、最初の日から)

    • お客様の情報を扱うようになったら、書かせない警告

    • 作ったものを GitHub に送るようになったら、送る前の検査

    • 任せる範囲が広がってきたら、承認の線引きを CLAUDE.md に

    画像
    使い方が広がるのに合わせて、足していく

    無料4本目で書いた「わからないうちは、実行の前にひとこと聞く」も、引き続き有効です。安全装置は、聞き忘れたときの最後の網です。

    それでも、ひとつだけ見落としやすいことがあります。作る役と確かめる役が同じAIだと、同じところを見落とします。別のAIに確かめさせる「第三者の目」は、有料7本目でお渡しします。


    この記事で手に入るもの

    ここから先の有料部分では、私がいま使っている安全装置一式を、何もない状態から作れるようにお渡しします。

    • 鍵の置き場所を1つに決める

    • 鍵のファイルを読ませない(設定の禁止とフックの2重)

    • お客様の情報を書かせない(警告。書いてよい相手の連絡先は外せる)

    • 送る前に中身を検査する(git を使う人だけ)

    • 承認の前に作らせない(CLAUDE.md に書く線引き)

    • 最後に、全部の安全装置を点検する指示

    それぞれに、貼る指示、確かめ方(わざと危ないことを頼んで、本当に止まるかを確かめる)、つまずいたときの直し方をつけています。

    コードは配りません。どんな安全装置にするかを言葉で渡し、あなたの Claude Code に作ってもらいます。何もない空のフォルダで、最初から最後まで通ることを確かめてから載せています。

    画像
    作ったら、わざと危ないことを頼んで、止まるかを確かめる

    準備物

    • Claude Code が動くパソコン(Claude の Pro 以上のプラン)

    • 作業フォルダ(有料1本目の「秘書の土台」があれば、そのフォルダ)

    • python3(Mac には最初から入っていることが多い。手順の最初で確かめます)

    • git(送る前の検査だけ。使っていなければ飛ばしてかまいません)

    • 費用:追加料金なし

    • かかる時間:30分ほど(Claude Code が作る部分は検証で20分ほど。あとは開き直して、わざと危ないことを頼んで確かめる時間)

    • 検証した環境:Mac。Windows は未検証です(Claude Code 自体は Windows でも動きます)

     
     
    外注の見積もりで諦めていた「こうしたい」を、自社の中で形にする方法を書いています。 コードを書けない中小企業の経営幹部です。 Claude Codeで300万円クラスのサイト刷新を2週間で自作し、3時間の手入力をたった5分に短縮しました。 使えるファイルも失敗談も、全部出します。

    あなたへのおすすめ