メインコンテンツへスキップ
見出し画像

AI に PC を勝手に触らせないために。「任せる・確認してから・自分でやる」の 3 段階

    今回の話

    • Claude に PC を触ってもらえるのは便利。でも、どこまで触らせるかは自分で決める必要があります

    • 最初の壁は、「何が分からないのかが分からない」ことでした。だから「なぜダメなの?」を AI 本人にひたすら聞きました

    • いまの僕の線引きは、「任せる」「確認してから」「自分でやる」の3段階です


    最初の壁:何が分からないのかが分からない

    少し前の回(1-2)で、Claude に「デスクトップを整理して」と頼んで感動した話を書きました。

    ただ、便利さに慣れてくると、ふと怖くなります。

    • 大事なファイルを消されたりしないか

    • パスワードを渡しても大丈夫なのか

    • そもそも、何が危ないのか

    エンジニアではない僕には、何が危険なのか、その判断基準がありませんでした。「何が分からないのかが分からない」状態です。

    だから、AI 本人に「なぜ」を聞いた

    そこで、使い始めのころは、開発そのものよりも、セキュリティについてかなり質問しました。

    • 「これはなぜダメなの?」

    • 「見られたら、何が起きるの?」

    • 「じゃあ、何をしておいたほうがいいの?」

    危ないことを、危ないことをしようとしている本人(AI)に聞く、という少し不思議な構図です(笑)。でも、これがいちばん勉強になりました。理由まで分かると、自分で判断できるようになるからです。

    いまの線引きも、こうやって教えてもらいながら決めてきたものです。

    僕の線引きは3段階

    画像
    判断の基準

    1. 任せる:作業フォルダの中のこと

    Claude が自由に触っていいのは、基本的に開発用の作業フォルダの中だけです。デスクトップにフォルダを1つ作って、アプリはすべてその中で作っています。

    この中なら、ファイルの作成や書き換え、アプリを動かすコマンドの実行、作業の記録(Git)などは、どんどん進めてもらっています。

    2. 確認してから:取り返しがつかないこと

    次の作業は、自動では進めさせず、毎回確認してからやってもらいます。

    • 作業フォルダの外を触るとき:たとえば、ダウンロードした PDF を読ませるときなど

    • データベースを丸ごと初期化するようなコマンド:自動では実行されないように設定しています

    • 本番のデータベースの変更:Claude に変更内容のファイルを作ってもらい、それを僕が自分で管理画面に貼り付けて実行します

    判断の基準はシンプルで、「間違えたときに、元に戻せるかどうか」です。戻せることは任せる。戻せないことは確認する。

    3. 自分でやる:秘密の情報

    最後に、これだけは Claude に触らせていないのが、パスワードや「API キー」などの秘密の情報です。

    API キーは、外部のサービスを使うための「合鍵」のようなものです。これが漏れると、他人が僕になりすましてサービスを使えてしまいます。

    こうした情報は、「.env(ドットエンブ)」というファイルに自分で書き込んでいます。.env は、秘密の情報を入れておく専用の保管庫です。アプリはここから合鍵を読み込んで使いますが、ネット上に公開される記録には載らないように設定してあります。

    僕が守っているルールは3つです。

    • 秘密の情報は、チャットに貼らない

    • .env には自分で書き込む(Claude には「ここに書いてください」という見本のファイルだけ作ってもらう)

    • 本番で動いているアプリへのログインも、自分でやる

    【反省】鍵づくりを手伝ってもらっていた

    ……と偉そうに書きましたが、この記事を書くために過去の作業を振り返っていて、気づいたことがあります。

    アプリで使う合鍵のいくつかを、Claude にコマンドで作ってもらっていたんです。合鍵はランダムな文字列なので、作ること自体は Claude の得意分野です。ただ、そのやり方だと、作った鍵の中身が会話の画面にそのまま表示されます。それを僕がコピーして、.env や本番の管理画面に貼り付けていました。

    すぐに何か起きるわけではありません。でも、会話の記録に合鍵が残るのは、「チャットに貼らない」という自分のルールとは矛盾しています。

    これからは、次のどちらかにします。

    • 鍵を作るコマンドは、自分でターミナルに打って実行する

    • Claude には「作った鍵を画面に表示せず、直接 .env に書き込む仕組み」を作ってもらう

    あわせて、過去に画面に出てしまった鍵は、新しいものに作り直しておくつもりです。自分でルールを決めても、実際には抜けがある。こういうところも含めて記録していきます。

    「許可」はだんだん育っていく

    使っていない人向けに、実際の感覚も書いておきます。

    Claude Code は、初期状態だと、ファイルを書き換えたりコマンドを実行したりするたびに「実行していいですか?」と聞いてきます。そこで「今回だけ許可」か「今後も許可」かを選びます。

    最初は、ほぼすべてに確認が入るので、正直ちょっと面倒です。でも、よく使う安全な作業から「今後も許可」にしていくと、だんだん聞かれなくなっていきます。

    つまり、権限の設定は、最初にすべてを決めるものではありません。使いながら、少しずつ育てていくものです。

    振り返ってみると

    いま思うと、最初に「なぜダメなのか」を聞きまくったのは正解でした。

    ルールだけ覚えても、新しい場面では役に立ちません。でも、理由が分かっていれば、初めての場面でも「これは戻せない作業だから、確認しよう」と自分で判断できます。

    これから AI に PC を触らせてみたい人には、次の3つをおすすめします。

    1. 作業用のフォルダを1つ作って、そこから始める

    2. パスワードや API キーは、AI に渡さない

    3. 迷ったら、「これは元に戻せるか?」を AI 本人に聞く

    ちなみに、それでもヒヤッとしたことはあります。別のアプリの本番データベースに繋ぎかけた話は、第3部で書きます。

    画像
    まとめ

    次回:作業フォルダの中身と、AI への「ルールブック」の作り方。


    感想や質問、「こういうのも AI で作れる?」という相談も、コメントで気軽にどうぞ。記事のネタにさせてもらうかもしれません(笑)
    連載の記事は、テーマごとにマガジンにまとめています。

     
     
    本業は都内の会社で新規事業の企画。エンジニアではないけれど、AI(Claude)といろんなアプリを作っています。組合の連絡アプリ「Unite」、ハンドボールの記録「HandLog」など、だんだん実際に使われるものが増えてきました。その記録と、つまずいた話を書いています。

    あなたへのおすすめ