
AIが攻撃者の「実行役」になる──サイバー攻撃はどこまで自動化されたのか
はじめに
「AIがサイバー攻撃を自動で行う時代が来た」——そんな見出しを見ると、少し現実味がないように感じるかもしれません。
けれど、いま起きている変化は、AIが自分で標的を選び、勝手に攻撃を始めるような話ではありません。もっと地味で、だからこそ現実的です。
人が標的と目的を決め、AIが調査、準備、実行、結果の整理を繰り返す。
その結果、少人数の攻撃者でも以前より速く、広い範囲に手を伸ばせるようになっています。
2026年9月、Anthropicは、同社のAIが悪用された事例をまとめた脅威レポートを公開しました。レポートが扱うのは、2025年12月から2026年8月にかけて同社が検知し、利用停止などの対応を取った事例です。サイバー攻撃、詐欺、監視、影響工作、兵器や生物学分野での悪用、モデルの不正抽出など、7つの領域にまたがっています。
この記事では、そのうちサイバーセキュリティに関わる部分を手がかりに、「何が変わったのか」と「今、守る側が見直すべきこと」を整理します。
なお、ここで紹介するのは、Anthropicが公表した悪用事例のうち、特に注目すべきものです。サイバー攻撃全体の発生頻度や傾向を示す統計ではありません。その点を踏まえたうえで、変化の方向を見ていきましょう。
1. AIは、攻撃者の「作業チーム」になりつつある
従来のサイバー攻撃にも、多くの地道な作業があります。
公開されているWebサイトや採用情報から使われているサービスを調べる。インターネット上の設定ミスや更新漏れを探す。侵入後に、どこに重要なデータがあるかを確認する。環境ごとに異なる情報を読み、必要な処理を用意し、うまくいかなければやり直す。
これらは、知識だけでなく時間と人手を要する作業でした。
AIエージェントを使うと、この反復作業の一部をまとめて任せられます。たとえば、集めた情報を整理して優先順位をつける、設定やログを読んで次に確認する場所を提案する、作業用のプログラムを用意する、実行結果を要約して次の手順につなげる、といった流れです。
Anthropicのレポートでは、AIが単に質問に答えるのではなく、偵察、侵入、情報の収集・持ち出しを含む作業に組み込まれた事例が報告されています。人は標的を選んだり、得られた情報を確認したりする役割を担っていました。
つまり、現時点で「人間の攻撃者が要らなくなった」わけではありません。重要なのは、攻撃者が指示を出し、AIが多くの作業を実行する分担へ変わりつつあることです。攻撃の手口そのものが突然まったく別物になったというより、試行回数と対応速度が上がっています。
2. 実際に報告された、AIを組み込んだ攻撃
Anthropicが紹介した事例のひとつに、ロシア系とみられる攻撃者による諜報活動があります。同社は、この攻撃者の特徴が、公開情報で「Midnight Blizzard」と呼ばれる攻撃グループに関する報告と一致すると説明しています。
攻撃対象には、ウクライナや欧州の政府機関、外交・防衛に関係する組織などが含まれていました。攻撃者はAIを、公開情報の調査、フィッシングの準備、侵入後の情報整理、攻撃用プログラムの修正など、複数の工程で利用していたとされています。
特に注目したいのは、使用中のプログラムがセキュリティ製品に検知されると、AIが修正と再試行を繰り返す仕組みを作っていた点です。人が一つひとつ修正する場合に比べ、検知を回避するための試行を速められます。
一方で、人は標的を決め、AIへ与える指示を調整していました。完全な自動攻撃ではなく、人の判断とAIの反復作業を組み合わせた攻撃だったと見るのが適切です。(参考:Anthropicの脅威レポート)
3. AIが攻撃に使われることで起きる3つの変化
AIが攻撃に使われることで、特に大きく変わるのは次の3点です。
3-1. 「目立たないから大丈夫」が通用しにくくなる
攻撃者が組織を狙う前には、下調べがあります。企業サイト、公開資料、SNS、求人情報、開発者向けの公開情報などから、使っている製品や業務の仕組みを推測します。
以前は、この下調べを人が一件ずつ行う必要がありました。AIが情報を集め、読み、整理できるようになると、同じ時間で調べられる組織の数は増えます。大企業だけでなく、「規模が小さいから手間に見合わない」と見過ごされていた組織も、大規模な自動調査の対象になり得ます。
もちろん、公開情報を減らせば安全になる、という単純な話ではありません。採用や営業に必要な情報もあります。ただし、使っていない管理画面、古いテスト環境、放置されたサブドメインなどは別です。まずは、自社がインターネットに何を公開しているかを把握することが出発点になります。
3-2. 一度止めても、相手がすぐ試し直せる
防御側が不審なアクセスを遮断したり、攻撃に使われた仕組みを検知したりしても、そこで終わりとは限りません。攻撃者は、環境に合わせて設定や手順を変え、別の方法を試します。
Anthropicは、検知を回避するために、攻撃に使う道具をAI支援で変更・再構築する動きを報告しています。AIがあれば、失敗の原因を整理し、修正案を作り、次の試行に移るまでの時間を短縮できます。
守る側にとっては、「一度防いだから安心」ではなく、異常が起きた原因を確認し、同じ手口が繰り返されないよう対処することが、これまで以上に大切になります。
3-3. 認証情報の価値がさらに高まる
サイバー攻撃において、パスワード、アクセストークン、APIキーなどは、別のシステムへ侵入する足がかりになります。
AIを使えば、攻撃者が入手したキーがどのサービスのものかを整理し、どこまでアクセスできるかを調べる作業も効率化できます。Anthropicのレポートには、盗まれたAI APIキーが、別の組織を狙う活動に使われた事例も含まれています。
ここでの教訓はシンプルです。APIキーやパスワードを、ソースコード、設定ファイル、共有フォルダ、チャットに置きっぱなしにしないこと。誤って公開した可能性があれば、公開箇所から削除するだけでは不十分です。キーを無効化し、新しいものへ交換する必要があります。
4. AI時代でも、まず効くのは基本対策
AIを使った攻撃の話をすると、「特別なAIセキュリティ製品が必要なのでは」と感じるかもしれません。しかし、守る側として最初に効くのは、昔からある基本対策です。
AIによって攻撃者の作業が速くなれば、既知の弱点を放置するリスクは相対的に高くなります。そのため、基本対策を後回しにせず、継続して実施できる仕組みが必要です。
すべての会社が高度な監視組織を持てるわけではありません。まずは、次の4点を確認してみましょう。
4-1. 外から見える入口を把握できているか
公開中のWebサイト、クラウドサービス、リモートアクセス用の仕組み、テスト環境を一覧にします。
「誰が管理しているか分からない」「念のため残している」というものは、事故が起きやすい場所です。すぐ削除できない場合でも、公開範囲を狭めたり、利用状況を確認したりすることはできます。
4-2. 重要なアカウントに多要素認証があるか
メール、クラウドストレージ、ソースコード管理、顧客管理、広告管理、支払いなどのアカウントは、不正アクセスを受けたときの影響が大きくなります。
まずは、これらに多要素認証が設定されているかを確認します。パスワードが漏れても、不正ログインを防ぎやすくなるからです。あわせて、退職者や異動者のアカウント、共有アカウント、使われていない連携アプリも見直します。
4-3. APIキーやトークンを、どこで管理しているか
AIサービスを使う企業ほど、APIキーを扱う場面が増えます。開発担当だけの話ではなく、ノーコード自動化、分析ツール、社内ボットなどでも発行されることがあります。
発行したキーの一覧、利用目的、管理者、失効手順を確認できるようにしましょう。重要なのは、「漏らさない」だけではありません。漏れたときに、どのキーを無効化し、何を調べ、どう復旧するかを決めておくことです。
4-4. 異常に気づいたとき、誰が動くか
深夜の大量ダウンロード、普段使わない地域からのログイン、短時間での権限変更、大量のメール送信などは、異常の兆候です。
すべてを人が常時監視する必要はありません。ただし、サービスからの通知を誰が受け取るかは決めておきましょう。不審な通知が来たときに止めるアカウントや、専門家への連絡先も平時に確認しておくと、初動の遅れを防げます。
5. 守る側にもAIは役立つ
AIは攻撃だけでなく、守る側の作業にも役立ちます。
たとえば、脆弱性に関する情報を読み、自社で使っている製品に関係があるかを整理する。大量のログや問い合わせから、普段と違う傾向を見つける。社員向けの注意喚起や、インシデント発生時の手順書を分かりやすく整える。こうした作業は、AIが得意とする領域です。
大切なのは、AIに判断を丸投げしないことです。重要なアカウントの停止、外部への連絡、システム変更といった場面では、人が確認する工程を残します。AIを「早く気づくため」「情報を整理するため」に使い、最終判断は人が行う。さらに、誰がその判断に責任を持つのかも明確にしておきます。
もう一つ注意したいのは、防御に使うAI自体の権限です。こうしたAIも、ログや管理画面へアクセスする場合があります。NISTは、AIエージェントを安全に導入するうえで、エージェントの識別、権限付与、監査などを重要な論点として挙げています。守るためのAIにも必要以上の権限を与えず、何をしたか確認できるようにしておく必要があります。
終わりに
AIによって、サイバー攻撃が一夜で“完全自律化”したわけではありません。それでも、攻撃者が調べ、試し、作り直す速度と規模は変わり始めています。
だからこそ今必要なのは、不安からやみくもに新しい製品を増やすことではありません。まずは、外部に公開しているシステム、アカウント、認証情報、更新状況、ログを整理することです。
AIを使う企業も、使わない企業も、「少人数でも速く動ける攻撃者」がいる前提で備える。こうした基本の見直しが、AI時代のセキュリティ対策の第一歩になります。
参考リンク
Detecting and countering misuse of AI: September 2026(Anthropic、2026年9月)
New Concept Paper on Identity and Authority of Software Agents(NIST、2026年2月)
※本記事は、2026年9月13日時点で公開されている情報をもとにしています。Anthropicの事例は同社が検知・妨害した活動に関する報告であり、一般的な被害頻度を示す統計ではありません。