メインコンテンツへスキップ
見出し画像

AIが自動でハッキングする時代へ?「AIハッカー」の脅威とAIホワイトハッカーの現在地

    はじめに

    「AIが勝手にシステムへ侵入する時代が来た」
    そんな話を聞いても、SFのように感じるかもしれません。しかし、すでにAIを使ったサイバー攻撃は、文章生成だけの段階を超えています。

    2026年9月、Googleの脅威インテリジェンス部門は、AIエージェントを活用した大規模な認証情報収集の攻撃工程が、クラウド環境の侵害後6時間未満で構築・実行された事例を公表しました。一方、AIは「攻める側」だけの武器ではありません。脆弱性を探し、再現し、修正案を提示する「AIホワイトハッカー」も実用化が進んでいます。

    本記事では、実例と一次情報を基に、AIがサイバー攻撃の何を変えたのか/防御にはどう役立つのか/IPA試験ではどう理解すべきかを整理します。

    1.なぜ今、AI×サイバーセキュリティが重要なのか

    IPAが2026年1月に公表した「情報セキュリティ10大脅威2026」では、組織向け第3位に「AIの利用をめぐるサイバーリスク」が初めて選ばれました。1位はランサム攻撃、2位はサプライチェーンや委託先を狙った攻撃です。AI関連リスクがそれらと並ぶ重要課題として扱われた点は注目に値します。

    ただし「AI関連リスク」は、AIを使った攻撃だけを意味しません。例えば、AIサービスへの機密情報の入力、AIが生成した誤情報の鵜呑み、AIアプリ自体への攻撃なども含まれます。本記事では特に、次の3つを分けて考えます。

    • AIを使って攻撃する:フィッシング文面の生成、偵察、脆弱性調査、攻撃工程の自動化。

    • AIシステムを攻撃する:プロンプトインジェクション、データ汚染、過剰権限の悪用、機密情報の流出。

    • AIを使って防御する:異常検知、ログ分析、脆弱性診断、修正案の生成、インシデント対応支援。

    「AIセキュリティ」という言葉を聞いたら、AIが攻撃の道具なのか、攻撃対象なのか、防御の道具なのかをまず確認しましょう。

    画像

    2.従来のサイバー攻撃と何が違う?

    サイバー攻撃の基本的な流れは、AI登場前から大きくは変わりません。標的を調べ、侵入口を探し、侵入し、内部で行動し、情報を盗む・サービスを妨害する、といった段階があります。変わり始めているのは、それぞれの作業をAIが連続して進められる範囲です。

    画像

    変化①:フィッシング・なりすましの「大量生産」と「個別最適化」

    従来の不審メールには、不自然な日本語や、受信者に合っていない内容も少なくありませんでした。生成AIを使うと、自然な文面を多言語で作り、公開情報を踏まえて職種や状況に合わせた文章にする負担が下がります。音声・映像の生成技術を組み合わせれば、なりすまし詐欺の信ぴょう性が高まるおそれもあります。

    対策は「日本語が不自然だから詐欺」といった見た目の判別に頼らないこと。送金依頼や認証情報の入力は、別経路での本人確認、メール認証、フィッシング耐性の高い多要素認証などで防ぎます。

    変化②:脆弱性調査・攻撃コード作成の高速化

    AIはコードの意味を読み、疑わしい処理を探し、検証結果を基に次の調査方針を修正できます。Google Threat Intelligence Group(GTIG)は2026年5月、AIによって開発されたと考えられるゼロデイ攻撃用エクスプロイトを攻撃者が使用したと報告しました。

    ここで重要なのは「AI開発と断定されたわけではない」という点です。GTIGの見解に基づく評価であり、予定されていた大規模攻撃が実際に成功したと報告されたわけでもありません。ニュースを読む際は、発見・実証・攻撃成功のどれが確認済みなのかを区別する必要があります。

    変化③:AIエージェントが複数の工程をつなぐ

    AIエージェントとは、目標に向かって複数の処理を計画し、ツールを利用しながら結果を確認して次の行動を選択する仕組みです。従来の単純なスクリプトが「決められた処理の繰り返し」を得意とするのに対し、AIエージェントは実行結果を解釈し、状況に応じて手順を組み替えられます。ただし、誤判断・誤操作・権限の範囲外への逸脱という新たなリスクも生まれます。

    画像

    3.実際に報告された「AIを使ったサイバー攻撃」3事例

    事例①:Claude Codeを悪用したサイバー諜報活動(2025年9月検知、同年11月公表)

    米Anthropicは2025年11月、攻撃者が同社のAI開発支援ツール「Claude Code」を悪用し、世界の約30組織への侵入を試み、一部への侵入に成功したと発表しました。標的にはテクノロジー企業、金融機関、製造業、政府機関などが含まれます。同社の調査によれば、攻撃者はターゲットや大枠を決め、AIに多数の作業を実行させていました。AIに「正当なセキュリティテスト」だと思わせるように作業を分割するなど、安全対策を回避しようとしたとも説明しています。

    注目点:AIは単なる「質問に答える道具」ではなく、攻撃工程の実行主体として悪用されました。ただし、これはAnthropicによる事案分析・帰属評価であり、外部から攻撃全体の詳細を独立検証できるわけではありません。また、完全無人だったという意味ではありません。

    事例②:クラウド環境侵害後、6時間未満で認証情報収集を展開(2026年第2四半期)

    GoogleのGTIGは2026年9月の報告で、攻撃者がクラウド資源を侵害した後、6時間未満でAIエージェントを使った大規模な認証情報収集キャンペーンを計画・構築・実行した事例を紹介しました。これは「6時間で企業全体が乗っ取られた」という意味ではありません。観測された一連の準備・実行工程が速かったという報告です。

    注目点:AIが攻撃のための作業時間を圧縮すると、防御側が異常を検知し、調査し、遮断するまでの猶予も短くなります。

    事例③:AIを組み込んだマルウェア(2025~2026年に研究・観測)

    IPAのAIセキュリティ短信は、2025年に報告されたLameHugやPromptLockを紹介しています。LameHugは侵入環境の情報収集などに生成AIを利用する仕組み、PromptLockはランサムウェア関連処理のコード生成にAIを用いる仕組みとして報告されました。

    これらは「すべてのランサムウェアがAIで自動化された」という証拠ではありません。実運用で観測されたものと研究段階・概念実証のものを区別する必要があります。たとえば、PromptLockについて実際の大規模被害が発生したと断定するのは不適切です。

    注目点:AIが実行環境に応じて処理を変えると、既知の文字列やファイルの特徴だけに依存した検知では対応しにくくなる可能性があります。そのため、EDRなどによる行動監視や不審な通信の検知が重要になります。

    4.防御側の切り札「AIホワイトハッカー」とは?

    ホワイトハッカーとは、権限を与えられた範囲でセキュリティ上の問題点を検証し、改善を支援する人のこと。AIホワイトハッカーは、その役割を支援・一部自動化するAIシステムを指す通称です。独立した公的資格名や単一の製品分類ではありません。

    AIによる防御には、主に4つの用途があります。

    1. SOC運用の支援:SIEM/EDR/XDRなどの検知情報を整理し、優先度や関連性を分析する。

    2. 脆弱性調査の支援:ソースコードや構成情報から、危険な箇所・攻撃経路の候補を探す。

    3. AIペネトレーションテスト:認可された環境で、発見した問題が実際に悪用可能かを安全に検証する。

    4. 修正・再検証の支援:修正案を生成し、テストして、再発を確認する。

    実例①:DARPA「AI Cyber Challenge(AIxCC)」

    米国DARPAが2025年8月に結果を発表したAIxCCでは、参加チームのAIシステムが最終競技の63課題から54件の人工的に組み込まれた脆弱性を発見し、そのうち43件を修正しました。さらに、競技用に作り込まれた脆弱性とは別に18件の実在する脆弱性も発見し、実在の脆弱性に対する修正案も提示しました。これは「AIが自動で脆弱性を探して修正する」という構想を、競技環境で具体的に示した事例です。ただし、競技結果をそのまま一般企業のシステム全体での成功率とみなすことはできません。

    実例②:AIペネトレーションテスト「XBOW」

    IPAのAIセキュリティ短信によれば、AI駆動型ペンテスターのXBOWは2025年6月、HackerOneの米国リーダーボードで第1位になりました。AIが脆弱性の候補を見つけるだけでなく、その存在を検証する仕組みを持つことが特徴です。一方、IPAは、当時の検知対象には機械的に確認しやすい中・低深刻度の脆弱性が多いと指摘しています。「AIが人間の高度なセキュリティ診断を全面的に代替した」と理解するのは早計です。

    実例③:Claude Code SecurityとProject Glasswing(2026年)

    Anthropicは2026年2月に、コードベースの脆弱性を調べ、人によるレビューを前提として修正案を提示する「Claude Code Security」の限定的な研究プレビューを発表しました。同社は同年4月、重要なソフトウェアの安全性向上を目的とするProject Glasswingも開始。2026年10月の公表では、参加組織による報告等を基に、AI支援によって多数の脆弱性を発見・検証した成果を紹介しています。こうした数値は開発元・参加組織による報告値であり、全件が実運用で修正・解消されたことを意味しません。

    実例④:Google「Big Sleep」「CodeMender」

    GoogleはAIを活用した脆弱性発見技術Big Sleepと、コードの問題を修正するCodeMenderを開発しています。CodeMenderは2026年7月にプレビュー提供が発表されました。これらは「脆弱性を発見するAI」と「修正を支援するAI」が開発工程に組み込まれていく例といえます。自動提案した修正は、機能への影響や別の欠陥を招かないか、人によるレビューとテストが不可欠です。

    画像

    5.AIペネトレーションテストの具体例:ECサイトを診断する

    仮に、企業が自社のECサイトに対し、書面で許可した検証環境だけをAIペネトレーションテストの対象にするとします。

    ① 計画・許可:対象URL、使用可能なテストアカウント、診断できる時間帯、禁止する操作、緊急停止方法を決める。

    ② 事前調査:AIが画面遷移やAPI仕様を読み、認証、アクセス制御、入力値検証などの観点から診断項目を整理する。

    ③ 安全な検証:用意したダミーデータ・テストアカウントで、想定外の情報閲覧や認可不備がないかを確認する。実データの窃取や本番サービスへの破壊的操作は行わない。

    ④ 証拠と優先度の整理:再現条件、影響範囲、根拠を報告する。単なるAIの推測を「脆弱性が存在する」と断定しない。

    ⑤ 修正と再診断:開発者が修正し、動作への副作用とセキュリティ上の問題が解消したことを確かめる。

    このように、AIを導入しても「許可→検証→評価→修正→再確認」というセキュリティ診断の基本は変わりません。本番環境への無断診断や過度な負荷をかける検査は行ってはいけません。

    「脆弱性診断」「ペネトレーションテスト」「AIレッドチーミング」の違い

    • 脆弱性診断:設定ミスや既知の欠陥など、脆弱性の有無を幅広くチェックする。

    • ペネトレーションテスト:許可された範囲で、発見した弱点を組み合わせて目的が達成できるかを検証する。

    • レッドチーミング:攻撃者を模擬し、組織の検知・対応能力も含めて総合的に評価する。

    • AIレッドチーミング:主にAIシステム自身を対象に、プロンプトインジェクション、情報漏えい、有害な出力、ツール悪用などを試す。従来の侵入テストとは対象が異なる場合がある。

    「AIペネトレーションテスト」はAIを使って行うペネトレーションテスト、「AIレッドチーミング」はAIシステムを検証対象とすることが多い、と覚えると整理しやすいでしょう。

    6.AI時代に企業が実施したい防御策

    AI攻撃に対して、魔法のように万能な「AI対策製品」はありません。まずは従来からの対策を、攻撃速度に見合う運用へ強化することが重要です。

    優先順位の高い対策

    1. 多要素認証と最小権限:フィッシング耐性の高い認証方式を採用し、特権IDとサービスアカウントの権限を絞る。

    2. 脆弱性管理の高速化:インターネットに露出する重要資産を把握し、悪用状況と影響度を見て修正優先度を決める。

    3. ログ監視と行動検知:EDR/XDR/SIEMで不審なプロセス・認証・外部通信の兆候を関連付ける。

    4. インシデント対応の迅速化:SOARなどを活用し、低リスクな封じ込め操作から自動化する。重大な処理には承認・停止機構を設ける。

    5. メール・送金プロセスの再設計:見た目・声・映像を信用しすぎず、本人確認と承認経路を分離する。

    6. AIエージェント自体を守る:機密データを不用意に入力しない。外部データを命令として扱わない設計とし、ツール権限・ネットワーク送信先・操作履歴を制御する。

    7. 検証の品質管理:AIの検出結果を人が確認し、誤検知・見逃し・費用・本番影響を継続して測る。

    AIが防御側にあっても生まれる新たな脅威

    AIエージェントがメール、Webページ、文書などの信頼できない情報を読んで、そこに隠された「別の操作を実行せよ」という指示に従うと、間接プロンプトインジェクションが成立するおそれがあります。

    OWASPのLLMアプリケーション向けTop 10・2026年版では、LLM01:Prompt Injection(プロンプトインジェクション)、LLM02:Sensitive Information Disclosure(機密情報の開示)、LLM03:Excessive Agency(過剰な自律性・権限)などが挙げられています。

    これらは「AIモデルに『秘密を漏らすな』と指示すれば完全に防げる」問題ではありません。AIと外部情報の信頼境界を設け、実行権限を制限し、重要操作には独立した確認を要求することが肝心です。

    7.IPA試験対策:ここだけは押さえておきたいキーワード

    応用情報技術者試験、情報処理安全確保支援士試験、ITストラテジスト試験を意識する場合、次の用語を説明できる状態が目標です。特定の事例や製品名が今後の試験で出題されると保証するものではありません。

    • 生成AI/LLM:文章やコードなどを生成するモデル。攻撃にも防御にも利用される。

    • AIエージェント:ツールの使用や手順の再計画を行い、目標に沿って複数工程を実行する仕組み。

    • フィッシング/ソーシャルエンジニアリング:人の判断をだまして認証情報や金銭を詐取する攻撃。

    • ゼロデイ脆弱性:修正策が未整備・未提供の段階などで悪用され得る脆弱性。未知の脆弱性と「修正未提供」を文脈に応じて区別する。

    • ペネトレーションテスト:認可された範囲で侵入の可能性や影響を検証する試験。

    • レッドチーム/ブルーチーム:攻撃者役として防御力を評価する側/検知・防御・対応する側。

    • EDR・XDR・SIEM・SOAR:端末の検知と対応/複数領域での検知・対応/ログ収集分析/対応手順の自動化。

    • プロンプトインジェクション:悪意ある指示をAIの入力や参照情報に混ぜ、想定外の行動を誘導する攻撃。

    • 最小権限・多層防御・Human-in-the-Loop:必要最小限の権限、複数の防御策、人の承認・監督を組み込む考え方。

    確認問題

    Q1.AIエージェントを利用した攻撃が従来と比べて危険になり得る理由は?
    A.複数工程を連携させ、実行結果に応じて次の操作を選べるため、攻撃の処理速度や規模が増す可能性があるから。

    Q2.AIを使った脆弱性診断で最も注意すべきことは?
    A.許可された範囲で実施し、AIの検出結果を検証し、修正・再診断まで確認すること。

    Q3.「AIが危険な指示を出さないよう、システムプロンプトだけで禁止する」は十分か?
    A.不十分。外部情報からのプロンプトインジェクションを想定し、ツールの最小権限、通信制御、実行承認、監査ログなどのAIの外側の制御も必要。

    まとめ:AIの登場で「攻撃」と「防御」の競争速度が上がる

    AIは攻撃者の文章作成や調査を楽にするだけでなく、複数工程をつなぐ自律的な処理にも使われ始めています。一方、脆弱性の発見・修正、SOCの分析、ペネトレーションテストを支援するAIも進化しています。

    覚えておきたいのは、「AIで何でも攻撃できる」わけでも、「AIに守らせれば安全」なわけでもないということ。重要なのは、AIに任せる処理の範囲、権限、証拠の検証、そして人の判断を組み合わせることです。AI時代のセキュリティ対策は、既存の基本対策を継続しながら、検知・判断・修正の速度を高めることから始まります。


    関連記事


    参考資料

    1. IPA「情報セキュリティ10大脅威 2026」(2026年1月29日公表)

    2. IPA「情報セキュリティ白書2026」(2026年10月19日発行)

    3. Google Threat Intelligence Group, “From Prompting to Autonomy – The Evolution of Adversarial AI”(2026年9月8日)

    4. Google Threat Intelligence Group, “Adversaries Leverage AI for Vulnerability Exploitation, Augmented Operations, and Initial Access”(2026年5月11日)

    5. Anthropic, “Disrupting the first reported AI-orchestrated cyber espionage campaign”(2025年11月13日)

    6. DARPA, “AI Cyber Challenge marks pivotal inflection point for cyber defense”(2025年8月8日)

    7. IPA「AIセキュリティ短信」(XBOW、LameHug、PromptLock等を紹介)

    8. Anthropic, “Making frontier cybersecurity capabilities available to defenders”(2026年2月20日)

    9. Anthropic, “Project Glasswing”(2026年4月以降)

    10. Google Cloud, “Find and fix software vulnerabilities with CodeMender”(2026年7月21日)

    11. OWASP GenAI Security Project, “OWASP GenAI LLM Top 10 2026”(2026年8月公開)

    12. MITRE, “ATLAS”(AIシステムに関する攻撃技術の知識ベース)

    13. NIST, “SP 800-115: Technical Guide to Information Security Testing and Assessment”(2008年)

    あなたへのおすすめ