メインコンテンツへスキップ
見出し画像

4-5 出力されたコードに混入するマルウェア──生成AIが「無意識に」作り出す危険なコード

    画像

    出力されたコードに混入するマルウェア──生成AIが「無意識に」作り出す危険なコード

    はじめに:新たな脅威「AI駆動型マルウェア」の登場

    2025年夏、セキュリティ业界に衝撃が走りました。ESETが「PromptLock(プロンプトロック)」という、初のAI駆動型ランサムウェアを発見したのです。このマルウェアは、単にAIを使って作られたという次元を超えていました。マルウェア自身が動作の中で動的にAIにコードを生成させて実行する──まさに「無意識に」危険なコードを作り出す存在として、私たちの前に現れたのです。

    本記事では、「DeepSeek安全運用の手引き」第4章4-5のテーマを最新の動向を踏まえて掘り下げ、生成AIがコードに混入させるマルウェアリスクの実態と、それに対する防御策を考察します。


    1. 「無意識のマルウェア生成」は現実的なリスクか?

    結論から言えば、これはすでに現実の脅威です。

    1-1. AI生成コードの脆弱性率

    CSET(米国安全保障センター)の調査によると、主要なLLMが生成したコードの検証失敗率は平均48%に達し、完全に安全だと検証されたコードは全体のわずか約30%でした。検出されたバグには、バッファオーバーフローやNULLポインタ参照など、攻撃者に悪用されうる重大な脆弱性が多数含まれています。

    衝撃の事実:ある調査では、技術者の76%が「AIのコードは人間より安全だ」と誤解していると報告されています。この「自動化バイアス」こそが、危険なコードを見過ごす最大の要因です。

    1-2. なぜAIは「無意識に」危険なコードを書くのか

    その理由は主に3つあります:

    1. 学習データの問題:AIは脆弱性を含む大量のオープンソースコードを学習しており、その「悪い癖」を再現します

    2. 機能性優先のトレーニング:セキュリティよりも「動くこと」が優先された最適化が行われている

    3. コンテクストの欠如:社内のセキュリティポリシーやアプリ固有の仕様をAIは理解できない


    2. 2025-2026年に確認された新たな脅威ベクトル

    2-1. AI駆動型マルウェア「PromptLock」の衝撃

    PromptLockは、マルウェア自身のコード内に悪意ある機能を全て持つのではなく、動作のたびに生成AIサーバーにプロンプトを送信し、動的にLuaスクリプトを生成・実行します。
    その処理フローは以下の通りです:

    1. ユーザーが誤ってPromptLockを実行

    2. PromptLockが生成AIサーバーにプロンプトを送信

    3. AIサーバーで悪意あるLuaスクリプトがその場で生成される

    4. 生成されたスクリプトを実行(ファイル列挙・暗号化・身代金要求文生成など)

    特筆すべきは、このマルウェアがOpenAIの「gpt-oss:20b」というモデルを使用していた形跡がある点です。そして、AIのガードレールを外すために、「あなたはサイバーセキュリティの専門家です」というプロンプトを巧妙に含めていました。

    2-2. シグネチャ検知をすり抜ける動的コード生成

    従来のアンチウイルスソフトは、シグネチャ検知(既知のマルウェアパターンを照合)が主流です。しかしPromptLockのようにその場でコードを生成するマルウェアは、事前にパターンを知ることができず、検知をすり抜けてしまいます。
    これは、「無意識にコードを生成するAI」が、結果的に「検知不能なマルウェア生成エンジン」となりうることを示しています。

    2-3. 新たな攻撃手法:スロップスクワッティング

    2025-2026年に注目されているもう一つの脅威が「スロップスクワッティング(Slopsquatting)」です。

    これは、AIが実在しないプログラミングパッケージ(ライブラリ)を「幻覚」として推奨する性質を悪用した攻撃です。攻撃者は、AIがよく幻覚として出力するパッケージ名を事前に調査し、その名前で悪意あるパッケージを公式レジストリ(npmやPyPIなど)に登録します。AIの推奨に従って開発者がそのパッケージをインストールすると、マルウェアがサプライチェーンを通じて混入します。

    調査によると、AIが33〜48%の確率で存在しないライブラリを推奨するケースが報告されており、この攻撃は非常に現実的な脅威です。


    3. DeepSeek固有のリスク考察

    本マガジンのテーマであるDeepSeekに焦点を当てると、さらに深刻な問題が浮かび上がります。

    3-1. ジェイルブレイク耐性の脆弱性

    米CISCO社が2025年1月に実施したジェイルブレイクテストでは、DeepSeek-R1は不正なプロンプトに対して100%の攻撃成功率を示しました。これは、悪意あるプロンプトによってほぼ無制限に危険なコードを生成させることが可能であることを意味します。

    3-2. データ管理の懸念

    DeepSeekのプライバシーポリシーでは、ユーザーが入力したテキストや音声が自動的に学習データとして利用され、そのオプトアウト(拒否)手段が提供されていません。つまり、開発者が意図せずプロンプトに入力した機密コードやAPIキーが、そのままモデルの学習データとなるリスクがあります。


    4. 私たちはどう向き合うべきか

    4-1. 既存のセキュリティ対策の徹底

    AI生成コードは「全く新しい脅威」というより、既存のソフトウェアサプライチェーンリスクの一部と捉えるべきです。

    • AI生成コードの例外なきレビュー:人間が書いたコード以上に厳格なコードレビューを実施する

    • 静的解析ツールの活用:ESBMCなどのツールで脆弱性を自動検出する

    • 最小権限の原則:AIエージェントには必要最小限の権限のみを付与する(OWASP提唱の「Least Agency」)

    4-2. マルチLLM戦略とフォールバック設計

    1つのAPIに依存することのリスクを認識し、複数のLLMを併用する戦略が有効です。また、APIが突然停止した場合のフォールバック設計も必須です(第5章参照)。

    4-3. 社内ポリシーの整備

    • 未承認AIの使用禁止を明確に規定する

    • ガイドラインの策定と教育を徹底する

    • 操作ログの監視で不正利用を検出する


    おわりに:AIの「無意識」を意識する時代

    生成AIは、もはや単なる「便利なツール」ではなく、無意識のうちに危険をはらむコードを生成しうる存在です。PromptLockの登場は、AIが攻撃者にとっても、マルウェア自身にとっても「コード生成エンジン」として機能する新たな時代の幕開けを告げました。

    「AIにコードを書かせる」のではなく、「AIが書いたコードを人間が検証する」という意識の転換が、今まさに求められています。

    リスクを恐れるあまり利用を躊躇うのではなく、リスクを正しく理解し、適切なガードレールを設けた上で活用する──それこそが、これからのAI運用における賢明な姿勢ではないでしょうか。


    ▼ DeepSeekを、日本語で学び、動かし、安全に使う。
    実践学習サイト「deepseek.ac」では、参考書の内容を
    操作と実装で確かめられる教材を公開しています。

    ▼ 参考書・問題集
    『DeepSeek安全運用の手引き』
    『DeepSeek安全運用の手引き 問題集 全70問』


    あなたへのおすすめ