AI活用に潜む「設定と権限」の落とし穴――ChatGPTの学習設定からCursor、Claude Skills、OpenClawのセキュリティリスクまで
このNoteは、2026年2月20日に公開されたAI仙人の動画に関するものです。
簡潔な要約：
対談では、生成AIの普及が急速に進む一方、多くの利用者がモデル選択、メモリ、学習へのデータ提供、ファイル操作権限などの設定を十分理解しないままAIを利用しているとして、その危険性を初級・中級・上級に分けて解説している。
初級編では、ChatGPTなどの有料サービスを契約しても適切なモデルを選ばなければ性能を十分引き出せないことや、ChatGPTのメモリ機能によって過去の情報が意図しない場面で参照される可能性を指摘。さらに、会話データをモデル改善に利用する設定について、特に企業の機密情報や顧客情報を扱う利用者は確認すべきだと訴えている。
中級編では、AI搭載コードエディター「Cursor」など、PC上のファイルを直接操作するAIツールの権限管理を取り上げた。AIに広いフォルダへのアクセス権や自動実行権限を与えると、誤操作によって重要ファイルまで変更・削除される可能性があるとして、作業対象を限定したフォルダで利用し、Gitなどで復元可能な状態を確保することを勧めている。
上級編では、Claudeの「Skills」やOpenClawのように外部コードやPC操作能力を持つ仕組みを取り上げた。第三者が公開したSkillを十分確認せず導入した場合、強い権限を悪用される可能性があると警告。また、PCを広範囲に操作できるAIエージェントについては、日常利用するPCとは切り離した環境で動かすという考え方も紹介している。
対談全体のメッセージは、「AIを使うな」ではなく、「AIを深く活用するほど、データと権限をどこまで渡しているかを理解する必要がある」という点にある。AIによる大幅な生産性向上を評価しながら、AIファーストの利用が広がるほど、セキュリティや契約上の知識も不可欠になると結論づけている。
【AI注意】100%あなたもやっている「早く変えるべき」AIの設定
詳細な要約：
1．身近な生成AIにも潜む「設定」の落とし穴
対談は、「AIには一般利用者が気づきにくい落とし穴が多数存在する」という問題提起から始まる。生成AIは誰でも簡単に使える一方、設定や権限について十分理解しないまま利用すると、情報流出やファイル消失などにつながる可能性があるという。
最初に取り上げられたのが、「有料契約しただけで高性能なAIを使えていると思い込むこと」だ。ChatGPTを例に、有料プランを契約していてもモデル選択を意識しなければ、期待した性能を十分に引き出せない場合があると説明する。実際、聞き手も高額なプランを利用しながら適切なモデルを選択せず、「ChatGPTは性能が低い」と感じていたという。
そのため、単に有料プランへ加入するだけではなく、現在どのモデルが選択されているのかを確認し、用途に応じて適切なモデルを利用することが重要だとしている。
一方、Claudeについては高性能モデルを利用しやすい点などを好意的に評価。さらにMCPやSkillsなどの仕組みに触れ、AIを単なるチャットサービスではなく、外部ツールや定型作業と連携する基盤として発展させている点を高く評価している。
GeminiについてはAI仙人の評価は厳しいものの、GoogleのNotebookLMについては非常に完成度が高いと評価している。もっとも、これらは客観的な製品比較ではなく、あくまでAI仙人個人の評価として語られている。
2．ChatGPTの「メモリ」とデータ利用設定に注意
次に取り上げられたのが、ChatGPTのメモリ機能である。
メモリや過去のチャットを参照する機能は、利用者の過去の情報を踏まえた回答を得られるため便利である。その一方で、画面共有や顧客との打ち合わせなどでは、過去の情報が意図しない場面で回答に反映される可能性があると指摘する。
AI仙人自身も、画面共有中に「その場では出してほしくない仕事上の情報」をAIが過去の履歴から参照しそうになった経験を紹介。AIが覚えてくれることはメリットであると同時に、情報管理上のリスクにもなり得るとしている。
さらに、会話データをモデル改善などに利用する設定についても注意を促している。対談では、新規アカウントでデータ提供に関する設定がオンになっている例を示し、企業情報や顧客情報などを扱う場合には、こうした設定を確認して必要に応じて変更すべきだと説明する。
もっとも、「学習された情報が他の利用者への回答としてそのまま現れる」といった説明についてはAI仙人自身も推測を交えており、正式な仕様を検証した説明ではない。対談の主眼は、機密性の高い情報をAIへ入力する前に、データがどのように扱われるのかを確認する必要があるという点にある。
3．企業のAI利用を左右する機密情報、NDA、シャドーIT
議論は個人利用から、企業におけるAIセキュリティへと移る。
AI仙人によると、企業では扱うデータの重要度に応じて利用可能なAI環境を分けるケースがある。機密性を重視する場合にはローカルLLMを利用し、その次の選択肢としてAWS、Microsoft Azure、Google Cloudなどのクラウド基盤を通じてAIモデルを利用する方法が挙げられる。
また、Microsoft CopilotやGoogle Geminiのように既存の企業向け環境へ統合されたAIを許可する企業がある一方、一般消費者向けのAIチャットサービスへ機密データを直接入力することについては慎重な企業もあるという。
特に注意が必要だとしているのが、NDA（秘密保持契約）や顧客から預かったデータをAIへ入力する行為である。
顧客から提供された情報を外部のAIサービスへ入力することが契約上どのように評価されるかは案件によって異なり、場合によっては第三者への情報提供や再委託に関連する問題として扱われる可能性があると説明する。ただしAI仙人自身も弁護士ではないと断っており、法的助言ではなく実務上の注意点として提示している。
さらに、企業が正式には認めていないAIを従業員が個人的に利用する「シャドーIT」にも言及する。生成AIによる生産性向上の効果が大きいため、企業がAIを全面禁止することは次第に難しくなっており、利用を認める方向へ徐々に動いているというのがAI仙人の見方だ。
対談では、個人情報についてはマスキングするなど、AI利用そのものを避けるのではなく、投入する情報を管理することが重要だという実務的な考え方も示されている。
4．CursorやClaude Code――AIにファイル操作を任せる危険性
中級編では、AI搭載コードエディターのCursorなど、PC上のファイルを直接操作できるAIがテーマとなる。
まず、Cursorにもデータ共有やサービス改善に関係する設定があるとして、企業案件を扱うフリーランスなどは特に確認すべきだと指摘する。
しかし、より大きな問題として取り上げられたのが、AIに自動実行権限を与えることである。
通常はファイルの変更などを実行するたびに利用者へ許可を求めるが、確認を省略すればAIを高速で自律的に動かせる。その代わり、AIがアクセス可能な範囲にあるファイルを変更・削除する権限も大きくなる。
特に、デスクトップや「書類」のような上位フォルダを作業領域として指定すると、その配下にある多数のファイルへAIがアクセスできる状態になる可能性がある。そのため、AIに操作させてよいファイルだけを専用フォルダへまとめ、その狭い範囲だけを作業領域として与えることを勧めている。
事故への備えとして、Gitで変更履歴を保存し、問題発生時に元へ戻せる状態を確保する方法も紹介された。さらに高度な方法としてサンドボックスを利用した隔離や、ファイル削除コマンド自体をAIに使わせない設定などにも言及している。
Claude Codeについても、許可確認を省略して高速に自走させる使い方が紹介される一方、ファイル消失につながったとする事例があったとして注意を促す。
つまり、AIエージェントは権限を増やすほど便利になるが、同時に誤動作した際の被害範囲も大きくなるというトレードオフがある。
5．Claude「Skills」は便利だが、第三者製にはリスクも
上級編では、Claudeの「Skills」が取り上げられる。
対談ではSkillsについて、「Webサイトを作る手順」「文章を作成する手順」「スライド作成時のルール」など、繰り返しAIへ指示する作業手順をまとめ、再利用できるようにする仕組みとして説明している。
毎回長い指示を入力しなくても同じ作業を繰り返せるうえ、コンテキストの消費も抑えられるとして、AI仙人はSkillsを非常に高く評価している。
一方で、インターネット上では第三者が作ったSkillも公開されているため、出所不明のSkillを安易に導入することにはリスクがあると警告する。
SkillにPC上で強い権限が与えられる場合、悪意のある処理が含まれていれば、重要な情報を外部へ送信したり、PC内のデータに影響を与えたりする可能性があるという。
AI仙人はこれを、ゲームに登場する「宝箱に見せかけてプレーヤーを襲うモンスター」に例えている。便利そうなSkillを見つけてもすぐ実行するのではなく、内容や評判を確認し、必要ならClaudeやCodexなど別のAIに安全性を調査させてから利用する方法を紹介している。
ただし、Skills自体を危険視しているわけではない。自分の作業手順をSkillとして保存すれば、文章やスライドなどの作成ルールを繰り返し利用できるとしている。
したがって重要なのは、「Skillsを使わないこと」ではなく、「誰が作った何のSkillなのかを確認したうえで使うこと」だという位置付けになる。
6．OpenClawなど「PCを操作するAI」は隔離して使う発想も
さらに高度なリスクとして取り上げられるのが、OpenClawに代表されるPC操作型AIエージェントである。
対談では、OpenClawについて、PC上に常駐してさまざまなファイルやサービスを操作できるボットとして説明する。こうしたAIに広範な権限を与えれば非常に高度な自動化が可能になる一方、ログイン済みサービスなども含めて操作範囲が拡大するため、誤動作や悪用が発生した際の影響も大きくなる。
そこで紹介されているのが、普段利用するメインPCとは別の端末でAIエージェントを動かすという発想である。
対談では、OpenClawを動かすためにMac miniを購入する利用者について、自分のメインPC上で動かすことを避け、「何を操作されても致命的な問題になりにくい専用機」を用意しているのではないかと推測している。
つまり、AIに与える権限を細かく制限するだけでなく、AIが活動する環境そのものを物理的・論理的に隔離することもリスク対策になるという考え方である。
7.「AIと融合する」時代ほどデータと権限の管理が重要に
対談の結論は、こうしたリスクがあるからといってAI活用を避けるべきだ、というものではない。
むしろAI仙人は、あらゆる仕事をAIと共同で進め、自分の代わりにAIが大量の作業を実行する状態を「AIとの融合」と表現し、今後はこうした働き方が重要になると主張する。
AIを徹底的に活用すれば、一人の人間が従来よりはるかに大きな仕事量を処理できるようになる。その生産性の差が大きいため、企業側もセキュリティ上の懸念だけを理由にAI利用を全面的に拒むことが難しくなっているという。
一方、最近は「とにかくAIを使うべきだ」「AIと融合すべきだ」という議論が急速に広がっているものの、どの情報をAIへ渡してよいのか、どこまでPC操作の権限を与えてよいのか、事故が起きた際にどう復旧するのかといった知識が追いついていないことをAI仙人は問題視する。
特に企業利用では、機密情報、個人情報、NDA、クラウド環境、AIへのデータ提供設定、ファイルアクセス権など、一般のAI利用とは異なる論点が数多く存在する。こうした「裏側」を理解せず、便利さだけを求めてAIエージェントへ広い権限を与える利用者が増えていることに懸念を示している。
対談全体を通じたメッセージは、「AIを使うか、使わないか」ではなく、「AIに何を渡し、何を許可するのかを理解して使うことが重要だ」という点に集約できる。
ChatGPTのモデル選択やメモリといった身近な設定から始まり、企業の機密情報やNDA、CursorやClaude Codeによるファイル操作、第三者製Skills、さらにPC全体を操作するAIエージェントへと話題を段階的に広げることで、AIの能力が高くなればなるほど、「データ管理」「権限管理」「作業環境の隔離」「バックアップ・復旧」の重要性も増していくという構図を示した内容となっている。
