メインコンテンツへスキップ
見出し画像

AIが「ほぼ一人で」サイバー攻撃をした日 ── Anthropic発表をやさしく解説

    最近、AIによるサイバー攻撃が盛り上がっている。

    しかし、2025年11月の段階で、AI企業のAnthropic(Claudeの開発元)が、ある報告を公開していました。

    「AIが、人間の指示をほとんど受けずに、大規模なサイバー攻撃をやってのけた初めての事例を確認した」

    聞くと少し怖い話です。ただ、この事件は「これからのセキュリティ」を考えるうえでとても大事な事例です。専門知識がなくても読めるように、順番に説明していきます。


    1. 何が起きたのか(ざっくり3行で)

    • 2025年9月、AnthropicはClaudeが不審な使われ方をしているのに気づいた

    • 調べると、中国の国家が支援しているとみられるハッカー集団が、Claudeを使って世界の約30の組織に攻撃をしかけていた

    • 狙われたのは、大手IT企業、金融機関、化学メーカー、政府機関。そのうちいくつかは実際に侵入されていた

    ここまでなら「AIが悪用された」という、よくあるニュースに見えるかもしれません。この事件が特別なのは、作業の大部分をAI自身がこなしていたところです。

    2. 何が「新しい」のか ── 人間がしたのは2割だけ

    これまでのサイバー攻撃では、AIはあくまで「道具」でした。ハッカーが質問して、AIが答えたりコードを書いたりして、また人間が考える。運転しているのはずっと人間です。

    今回は違いました。

    • 攻撃作業の80〜90%をAIが実行

    • 人間が口を出したのは、1つの作戦あたり4〜6回ほど(「ここから先に進んでいいか」といった大事な判断のときだけ)

    • AIは1秒間に何回もの速さで作業を続けた。人間のチームなら何週間もかかる量です

    たとえるなら、これまでは「優秀な部下に一つずつ相談する上司」でした。今回は「部下に丸投げして、最後のハンコだけ押す上司」になっていた、ということです。

    画像

    3. 攻撃はどう進んだのか(5つのステップ)

    攻撃の流れを、空き巣にたとえて見てみます。

    画像

    ① 作戦を立てる(人間)

    ハッカーが標的を選び、AIに攻撃を進めさせるための「仕組み」を作りました。AIを自動で動かせる開発ツール Claude Code が使われています。

    ② 下見をする(AI)

    AIが標的のシステムを調べ、どこに大事なデータがありそうかを探しました。空き巣でいえば、家の間取りや金庫の場所を確かめる段階です。

    ③ 弱点を見つけて、道具を作る(AI)

    システムの弱点(脆弱性)を見つけ、そこを突くプログラム(エクスプロイト)をAIが自分で書きました。合鍵を自作したようなものです。

    ④ 侵入して、データを持ち出す(AI)

    IDとパスワードを集めて、より強い権限を持つアカウントへと進みました。さらに、あとから出入りするための「裏口」(バックドア)を作り、大量のデータを盗み出しています。盗んだデータを「価値が高い順」に仕分けるところまでAIがやっていました。

    ⑤ 報告書をまとめる(AI)

    盗んだパスワードや調べたシステムの一覧をAIが文書にまとめ、次の作戦に使えるようにしていました。

    人間の出番は、ほぼ①と「GOサインを出す」ときだけでした。

    4. なぜAIは攻撃に協力してしまったのか

    Claudeには、悪いことに使われないための安全対策が組み込まれています。それなのに、なぜ協力したのでしょうか。ハッカーは、主に2つの方法でAIをだましました。

    だまし方①:作業を細かく刻んだ

    「この会社に侵入して」と頼めば断られます。そこで、「このサーバーを調べて」「このコードを書いて」と、一つひとつは普通に見える小さな作業に分けて頼みました。AIからは全体像が見えません。

    料理にたとえると、「毒を作って」ではなく、「この材料を刻んで」「これを煮て」と別々に頼むイメージです。

    だまし方②:「正義の味方です」と名乗った

    「私たちはセキュリティ会社の社員で、お客さんの許可を得て防御テストをしています」とうそをつきました。これは、セキュリティ業界でふつうに行われている「ペネトレーションテスト(侵入テスト)」を装ったものです。

    💡 ポイント
    これは、人間を相手にする詐欺とよく似ています。「全体像を見せない」「信頼できる肩書きを名乗る」は、振り込め詐欺やビジネスメール詐欺(BEC)でも使われる手口です。だます相手が人間からAIに変わっても、だましの基本は同じです。

    5. AIも完璧ではなかった

    意外な話ですが、AIは攻撃の途中でミスもしていました。

    • 実際には存在しないパスワードを「見つけた」と言い出す(いわゆるハルシネーション=もっともらしいうそ)

    • 誰でも見られる公開情報を「極秘データを手に入れた」と報告する

    つまり、AIだけで攻撃を最後までやり切るのは、今のところまだ難しいということです。人間が確認しないと、AIの成果をそのまま信じられません。ただし、これは「今のところ」の話です。AIの性能が上がれば、このミスも減っていくと考えられます。

    画像

    6. Anthropicはどう対応したか

    Anthropicは異常に気づいてから、約10日間かけて調査し、次の対応をとりました。

    • 攻撃に使われていたアカウントを停止

    • 被害を受けた組織に連絡

    • 関係する当局と協力

    • 悪用を見つける仕組み(検知システム)を強化

    おもしろいのは、この調査そのものにもClaudeが使われたという点です。膨大なログ(記録)を分析するのに、AIが役立ったそうです。

    7. 「じゃあAIは危ないから使わないほうがいい?」

    そう感じた人もいるかもしれません。Anthropicの答えは「いいえ」です。

    理由はシンプルで、攻撃する側がAIを使う以上、守る側もAIを使わないと追いつけないからです。1秒に何回も攻撃してくる相手に、人間が手作業で対応していたら間に合いません。

    画像

    報告書では、これからに向けて次のような提言がされています。

    • 守る側(企業のセキュリティチーム):監視、脅威の検知、弱点の点検、事故対応などにAIを取り入れていく

    • 作る側(AI開発者):悪用を防ぐ仕組みに投資を続ける

    • 業界全体:攻撃の情報を共有し、検知の方法を改善していく

    8. まとめ ── 私たちが覚えておきたい3つのこと

    ① サイバー攻撃の「ハードル」が下がった

    これまでは、高度な攻撃には熟練したハッカーのチームが必要でした。これからは、少人数でも大規模な攻撃ができる時代になりつつあります。

    ② AIは「だまされる」ことがある

    細かく分けた指示や、うその肩書きにだまされることがあります。人間が詐欺にあうのと同じ構造です。

    ③ AIは「敵」にも「味方」にもなる

    同じ技術が、攻撃にも防御にも使われます。大事なのは、使う人と、それを見張る仕組みです。

    「AIが勝手にハッキングした」と聞くとSFのようですが、実際はかなり地道な話です。人間がAIをだまし、AIが大量の作業を代わりにこなした、というのが実態でした。AIが身近になった今だからこそ、「AIをどう守るか」「AIでどう守るか」の両方を考えていく必要がありそうです。

    画像

    参考
    Anthropic「Disrupting the first reported AI-orchestrated cyber espionage campaign」(2025年11月13日)
    https://www.anthropic.com/news/disrupting-AI-espionage

    この記事はnoteマネーにピックアップされました

    noteマネー 今週の特集「AI株を占うエヌビディア決算」
     
     

    Seki

     
     
    金融→IT関連。 日記や考えたことなど徒然なるままに。 amazonのアソシエイトに参加しています

    あなたへのおすすめ