メインコンテンツへスキップ
見出し画像

AIが「ほぼ一人で」攻撃した、その後──2026年、攻撃を任されるAIたち

    先日、「AIが『ほぼ一人で』サイバー攻撃をした日」という記事を書きました。

    取り上げたのは、Anthropicが2025年11月に公表した事例です。人間が標的や方針を決め、AIが攻撃作業の大部分を進めていた、という内容でした。

    その後についても、調べてみました。

    ① 守る側の団体も侵害された──DIVDの発表

    画像

    2026年9月、オランダの脆弱性調査・開示団体DIVDが、自らのシステムへの侵害を公表しました。

    DIVDは、攻撃の動きからAIエージェントの利用が示唆されると説明しています。インフラへのアクセスを遮断し、外部の専門チームと調査を開始。当局への報告も行いました。

    ただし、この発表の時点では調査中です。どの工程をAIが実行したのか、人間がどれだけ関わったのかまで、確定したわけではありません。

    セキュリティを専門にする組織も被害に遭う。この事実には重みがあります。同時に、AIの関与については、被害の確認とは分けて読む必要があります。

    ② 少人数で、複数の攻撃を同時に進める──Anthropicの9月報告

    画像

    Anthropicが9月10日に公表した報告には、AIを使った複数の攻撃活動が登場します。

    その一つでは、湖南省の大学生2人を含む中国語話者のグループが、約50組織を標的にしていたとされています。複数のAIエージェントに仕事を分担させ、東南アジアの政府機関から市民記録を取得した事例も記載されています。

    別のロシア関連の活動では、セキュリティ製品に検知されたマルウェアを、AIが修正・再構築する仕組みが使われていました。

    一方で同社は、人間が標的選びや成果の確認などに関わり続けていることも明記しています。

    前回は「部下に仕事を任せ、上司が重要な判断をする」とたとえました。

    今回は、その部下が複数いて、調査係、開発係、作業係として同時に動くイメージです。少人数の攻撃者でも、並行して進められる仕事が増えています。

    ③ 6時間未満で数千件の認証情報──Googleの観測

    画像

    Googleの脅威分析チームGTIGが9月8日に公表した報告には、金銭目的とみられる攻撃者の事例があります。

    観測されたのは2026年の第2四半期です。攻撃者は、侵害した組織のクラウド環境を使い、AIを組み込んだ認証情報収集の仕組みを計画・構築・実行しました。その一連の作業は6時間未満で進み、第三者の認証情報が数千件侵害されたとされています。

    AIは、事前に用意された指示書に沿って調査を進め、途中の問題への対処なども自動で行いました。

    ここで気になるのは、「攻撃コードを書く時間」だけが短くなったわけではないことです。

    動かしてみる。エラーが出る。原因を調べる。直して続ける。

    人間が画面を見ながら行っていた、この往復までAIに任せられるようになっています。守る側から見ると、攻撃者が次の行動に移るまでの時間が短くなる、ということです。

    ④ 政府機関への攻撃にも──台湾で確認された混合型の攻撃

    画像

    台湾のデジタル発展部は8月13日、7月に政府機関を狙った攻撃を確認していたと発表しました。

    公式説明では、人間の操作とOpenClawなどのAIエージェントを組み合わせた「混合型」の攻撃とされています。バックアップ用・テスト用などのシステムを足場に、複数の手法を素早くつなげていたという説明です。

    関連してDream Research Labsは、アジアの政府機関を狙った攻撃基盤の分析を公開しています。同社によると、約4日間の活動で85件の認証情報が破られ、2,564件以上の人員関連レコードが持ち出されました。

    調査対象は政府のIT委託先やエネルギー分野などにも拡大しています。ただし、標的として調べたことと、すべての組織への侵入に成功したことは同じではありません。また、Dream自身はこの報告で対象組織を匿名化しています。

    この事例から考えたいのは、普段あまり注目されないシステムの扱いです。

    本番の入口を厳重にしていても、古いテスト環境や委託先との接続が足場になることがあります。AIによって探索や試行が速くなるほど、そうした場所を放置する余裕は小さくなると考えられます。

    ⑤ 失敗しても、すぐ直す──JADEPUFFER

    画像

    7月1日、セキュリティ企業Sysdigは、JADEPUFFERと名付けた攻撃者の活動を公表しました。

    同社の分析では、攻撃はAIアプリ開発基盤Langflowの既知の脆弱性を入口とし、別のデータベースへの侵害と恐喝へ進みました。複数の証拠から、LLMが攻撃を動かしていたと評価しています。

    象徴的なのが、ログイン失敗後の動きです。失敗から修正版の処理を送るまで、31秒しかかかっていませんでした。

    ただし、Sysdigは攻撃者のAI設定を直接確認できているわけではありません。また、攻撃コードにはデータを退避済みとする記述があったものの、実際の持ち出しは独立に確認できていないとしています。

    前回の記事では、AIが存在しない情報を「見つけた」と報告するミスを紹介しました。

    今回の事例を読むと、そこにもう一つ付け加える必要があります。

    AIは間違える一方で、間違いに対応して作業を続けることもある。

    途中の失敗を、攻撃が止まった証拠として扱うのは危険です。

    「AIが使われた」と「AIに任せた」を分けて読む

    画像

    今回の事例を並べると、ニュースを読むときの確認点も見えてきます。

    • AIが文章やコードを作ったのか。

    • AIがツールを操作して攻撃を実行したのか。

    • 実行結果を見て、次の行動まで選んだのか。

    • 人間はどこで判断し、介入していたのか。

    例えば、AIが脆弱性を発見して攻撃コードを作ったとしても、それだけで「攻撃全体が自律化された」とは言えません。

    前回の「AIも完璧ではなかった」を、どう更新するか

    画像

    前回は、AIが攻撃中にミスをすることを紹介しました。その点だけを読むと、「まだ人間がいなければ大したことはできない」と感じるかもしれません。

    今回の報告を読んで、私はその受け止め方を少し変える必要があると思いました。

    AIが失敗することと、被害を出せることは両立します。失敗した作業をやり直したり、複数の標的に並行して取り組んだりできれば、一つひとつの作業が不完全でも、被害につながる可能性があります。

    気になるのは、攻撃者が作業にかける手間の変化です。

    調査する時間、エラーを直す時間、結果を整理する時間。その一部をAIに任せられると、人間は別の標的や次の作戦に時間を使えます。

    守る側も、AIが使われているかを見極めるだけでは足りません。侵入の入口を減らし、異常を見つけたら止め、一つの侵害が別のシステムへ広がらないようにする。その基本を、短い時間で実行できるかが問われます。


    参考

    DIVD 公式発表(2026年9月)
    https://www.divd.nl/newsroom/articles/when-no-if/

    Anthropic 脅威インテリジェンスレポート(2026年9月10日)
    https://www.anthropic.com/threat-intelligence-report-september-2026

    Google Threat Intelligence Group(GTIG)報告(2026年9月8日)
    https://cloud.google.com/blog/topics/threat-intelligence/from-prompting-to-autonomy-the-evolution-of-adversarial-ai

    台湾デジタル発展部 発表(2026年8月13日)
    https://moda.gov.tw/ACS/press/news/press/20394

    Dream Research Labs 分析レポート
    https://dreamgroup.com/blog/inside-a-multi-agent-ai-framework-used-to-compromise-government-entities-in-asia

    Sysdig JADEPUFFER分析(2026年7月1日)
    https://www.sysdig.com/blog/jadepuffer-agentic-ransomware-for-automated-database-extortion

    この記事はnoteマネーにピックアップされました

    noteマネー 今週の特集「AI株を占うエヌビディア決算」
     
     

    Seki

     
     
    金融→IT関連。 日記や考えたことなど徒然なるままに。 amazonのアソシエイトに参加しています

    あなたへのおすすめ