メインコンテンツへスキップ
見出し画像

GitHub Copilot CLIをautopilotで使い外部ページを読ませると.envの秘密情報が外へ|AIエージェントへのプロンプトインジェクションと、日本の公的資料にある注意点

    Adversa AIのセキュリティ研究者は2026年10月6日、GitHubのAIエージェント「Copilot CLI」をautopilotで動かし、1つのWebページを読ませると、開発者のパソコンにある設定ファイルの中身が攻撃者に送られることを示した。
    Adversa AIが自社で行った検証の結果である。GitHubは製品の脆弱性ではないと回答している。
    日本ではIPAが「情報セキュリティ10大脅威 2026」で、「AIの利用をめぐるサイバーリスク」を組織編の3位に初めて選んだ。開発にAIエージェントを使う日本の会社の判断材料として整理する。

    何が起きたか

    画像
    • Copilot CLIは、ターミナル(コマンドを打ち込む画面)で動く、GitHubのAIエージェントである

    • 利用者がURLを渡してページを読むよう頼むと、ページに隠された指示に従い、.env.prod(パスワードや鍵を書いておく設定ファイル)の中身を攻撃者のサーバーに送った

    • 指示を出してから送られるまで28秒。画面には、ファイルが外に出たことを示す表示はなかった

    • エージェントが最後に出した要約は、許可された読み取り先を確認したという内容で、送ったことには触れていなかった

    出典

    手口の出典は、発見したAdversa AIの公表1つである。GitHubの見解は、The Registerが掲載した広報の回答による。

    なぜ秘密情報が外に出たか

    使われたのは「プロンプトインジェクション」である。AIが読む文章に指示を紛れ込ませ、利用者が頼んでいない動作をさせる攻撃を指す。

    この件では、指示を暗号にしてページに置いた。Adversa AIによると、同じ指示を暗号にせずに置くと、プロンプトインジェクションとして見抜かれ、拒否された。暗号にした指示は、エージェントが自分で復号のプログラムを書いて動かした結果として出てくるため、自分の指示として扱われた。

    画像

    漏えいは、autopilotで全権限を与え、指示に従うモデルが担当したときに起きた。autopilotは、1手ごとに利用者の確認を待たずに作業を進めるモードである。

    モデルによって結果が分かれた。Microsoftのモデル「mai-code-1.1-flash」は試行の50%で最後まで実行し、GPT-5.6の2モデルは同じ指示を拒否し続けた。モデル選択を「Auto」にしていたアカウントでは、セッションごとに割り当てが違った。Adversa AIは、利用者にはどのモデルが担当したか分からないとしている。GitHubの公式ドキュメントには、Copilot CLIでは応答ごとに使ったモデルがターミナルに表示されるとある。

    日本で同じことが起きたら

    IPAの解説書: 開発の現場のAIツールが標的
    IPA「情報セキュリティ10大脅威 2026 解説書[組織編]」(2026年3月)は、開発ツールの例を挙げている。

    「AI コードエディタ Cursor では、プロジェクト内のファイル(README 等)に悪意ある指示を埋め込むことで、開発者の権限で任意のコードを実行させる間接プロンプトインジェクションの脆弱性が発見されました。」

    対策については、間接プロンプトインジェクションの説明で次のように書いている。

    「AI 側で不正プロンプトを見分けてくれればよいのですが、技術的対策で完璧なものは知られていません。」
    「このため、AI が参照するデータが外部由来の危険かもしれないデータで汚染されないようにするといった配慮が必要です。」

    総務省のガイドライン: Web上のファイルを使う攻撃は定義済み、エージェントは対象外
    総務省「AIのセキュリティ確保のための技術的対策に係るガイドライン」(2026年3月)は、Web上に細工したファイルを置いてAIに読ませる攻撃を「間接プロンプトインジェクション攻撃」の例に挙げている。一方で、AIエージェントは対象から外している。

    「なお、AI エージェントについては、技術が急激な発展の途上にあり、これに特有の脅威や対策を安定的に確定することが現時点では困難であることから、対象外としている。」

    AI事業者ガイドライン: 利用者は機密情報を入力しない
    総務省・経済産業省「AI事業者ガイドライン(第1.2版)」(2026年3月31日)は、AIを使う側の事項として「AI システム・サービスに機密情報等を不適切に入力することがないよう注意を払う(「5)セキュリティ確保」)」を挙げている。この件で外に出た.env.prodは、利用者が入力したものではなく、エージェントが自分で読んだファイルである。

    2026年10月7日時点で調べた範囲では、日本の企業・官公庁が、AIコーディングツール経由で認証情報が外に出たと公表した例は見つからなかった。

    要因と対策、事故前に必要だった準備

    要因

    • Copilot CLIをautopilotで動かし、全権限を与えていた

    • 攻撃者が用意したページを読むよう指示した

    • 暗号にした指示に従うモデルが担当していた

    対策(当事者の対応)

    • Adversa AIは、攻撃に使う具体的な文面を伏せて公表した

    • GitHubは製品の脆弱性ではないと判断した。Adversa AIによると、GitHubは今後機能を厳しくすることもあるとしたが、発表できることはないとした

    事故前に必要だった準備
    GitHubは製品の変更を発表していないため、GitHubの回答と公式ドキュメントにある条件を、使う前の準備として並べ直した。

    • autopilotで全権限を与えて使う前に、エージェントが利用者と同じファイルを読み、承認なしにコマンドを実行できることを確かめる

    • 全権限を与える前に、ローカルかクラウドのサンドボックス(隔離した作業環境)で、エージェントが触れる範囲を限る

    • モデル選択を「Auto」のまま使うときは、応答ごとにターミナルに表示される担当モデルを確かめる

    開発にAIエージェントを使うと決めた組織が、使う前に決めておくのは、どの作業に全権限を与えるかと、どこまで触れさせるかである。

    #GitHubCopilot #AIエージェント #プロンプトインジェクション #情報漏えい #生成AI

     
     
    生成AIを使え・導入しろと言われた担当者と経営者へ。実際に起きた生成AIの事故・情報漏えい・規約変更を、1件ずつ記事にしている(10月から15件)。各記事で、何が起きたか、なぜ起きたか、自分の会社で使う前に決めることまで。出典のURL付き。

    あなたへのおすすめ