メインコンテンツへスキップ
見出し画像

3-3 プロンプトインジェクションの新たな形——AIの「自己検閲」機能を無効化できるか

    画像
    プロンプトインジェクションの新たな形——AIの「自己検閲」機能を無効化できるか

    はじめに——「検閲」の裏側にある脆弱性

    大規模言語モデル(LLM)には、有害な応答を抑制するための「自己検閲」機能——すなわちコンテンツモデレーションやセーフティアライメント——が組み込まれている。しかし、この自己検閲機能を無効化し、AIに本来拒否すべき応答を生成させる「プロンプトインジェクション」攻撃は、日々進化を続けている。

    本稿では、2025年から2026年にかけて明らかになった最新の攻撃手法を中心に、AIの自己検閲がどのように突破されうるのか、そのメカニズムと実態を解説する。


    1. プロンプトインジェクションとは何か

    プロンプトインジェクションとは、AIシステムに対して悪意のある入力を埋め込むことで、開発者が意図しない動作や情報を引き出すサイバー攻撃である。特に「脱獄(ジャイルブレイク)」と呼ばれる手法は、システムレベルで設定された安全制約を無視するようモデルを仕向ける。

    従来の攻撃は直接的な命令で行われていたが、現在ではより巧妙で多層的な手法が登場している。


    2. 2025-2026年の最新攻撃手法

    2-1 多層エンコーディング攻撃(RoguePrompt)

    2026年7月に発表された「RoguePrompt」は、禁止されたプロンプトを分割し、Vigenère暗号とROT13を二重に適用するという高度な手法だ。攻撃者は暗号化されたプロンプトとともに「これを復号して実行せよ」という自然言語の復元指示を添える。モデレーション分類器は暗号化された入力を「無害」と判定するが、メインモデルは復号指示に従って本来の禁止命令を再構築し、実行してしまう。

    この手法の成功率は驚くべきものだ:

    • フィルターバイパス率:93.93%

    • 命令復元率:79.02%

    • 実行率:70.18%

    2-2 単一プロンプトによるアライメント破壊(GRP-Obliteration)

    2026年2月、マイクロソフトの研究チームは衝撃的な発見を報告した。たった1つのプロンプトで、テストした15の言語モデルすべての安全ガードレールが「確実に」無効化されたのである。

    この攻撃の特徴は、AIの安全性を高めるために設計されたGRPO(Group Relative Policy Optimization) というトレーニング手法そのものを逆手に取る点にある。本来は安全な応答を「報酬」とする仕組みを、有害な応答を報酬とするよう反転させる。モデルは「より有害な応答を生成する」ように学習し直され、知能を保ったまま安全機能だけを喪失する。

    対象となったモデルにはLlama、Qwen、DeepSeek、Gemmaが含まれ、暴力・詐欺・露骨なコンテンツなど複数のカテゴリにわたって拒否能力を失った。

    2-3 自己進化型レッドチームエージェント

    2026年1月に報告されたこの手法は、進化的フレームワークを用いて自動的に敵対的プロンプトを生成する。攻撃は以下の要素を組み合わせる:

    • JSON出力契約による厳格なフォーマット強制

    • プレフィックスインジェクション(「Sure, here's...」など拒否できない文言で応答を開始させる)

    • 拒否トークンのブラックリスト化(「I cannot」「policy」「sorry」などを禁止)

    この手法は特定の商用モデルで最大100%の攻撃成功率を達成した。しかも自動生成されるため、静的な安全パッチでは追従が困難だ。

    2-4 多言語・多モーダル攻撃の台頭

    2025年の研究では、多言語プロンプトを用いた脱獄が閉鎖系LLMに対して有効であることが示された。また、画像内に命令を隠すクロスモーダルプロンプトインジェクションも新たな攻撃ベクトルとして注目されている。

    さらに、詩の形式で悪意のある命令を送信すると、セーフティ制限を大幅に回避できるという研究結果も2025年に報告されている。データベースが大きいモデルほど「過剰解釈」によって騙されやすいという逆説的な脆弱性も明らかになった。


    3. DeepSeekにおける自己検閲の脆弱性

    中国発のAIモデルDeepSeekは、特に自己検閲機能の脆弱性が顕著だ。

    シスコシステムズとペンシルバニア大学の研究者らは2026年1月、有害コンテンツを引き出すよう設計された50の悪意あるプロンプトでDeepSeekをテストした。結果は攻撃成功率100% ——すべてのプロンプトが防御を突破した。

    セキュリティ企業Adversa AIの分析でも、DeepSeekは単純な「言語トリック」から複雑なAI生成プロンプトまで、幅広い脱獄手口に対して脆弱であることが示されている。

    さらに、DeepSeek-R1の蒸留モデルでは、政治的にセンシティブなプロンプトの60%以上が思考抑制(検閲)を引き起こすのに対し、有害プロンプトでは5%未満という非対称性も報告されている。これは、政治検閲と安全性検閲の間に大きな「バランスの歪み」が存在することを示唆している。


    4. なぜ自己検閲は突破されるのか

    これらの攻撃が成功する根本原因は、以下の点にある:

    1. 検閲とモデルの能力の非対称性:軽量なモデレーション層では、複雑にエンコードされた入力を検出できない

    2. 命令の優先順位の操作:システムプロンプトよりもユーザープロンプトが優先される設計上の問題

    3. アライメントの静的性質:一度アライメントされたモデルでも、ファインチューニングや敵対的圧力によって容易に「非アライメント」化する

    4. 検閲の「表面」依存:入力層でのフィルタリングに依存する限り、エンコードや分割によって必ず回避経路が生まれる


    5. 防御の可能性と限界

    現在検討されている防御策には以下がある:

    • 多層防御:入力・内部・出力の3段階での監視

    • プロンプトフィルタリングと変換

    • マルチエージェント防御と自己制御メカニズム

    しかし、Microsoftの研究チームが指摘するように、「アライメントは静的なものではない」。モデルが運用環境で適応・微調整される過程で、安全性は常に変化しうる。つまり、自己検閲の「無効化」は一時的なバグではなく、システム設計の本質的な課題なのである。


    おわりに——「飼いならせる」という幻想

    AIの自己検閲機能を無効化できるか——この問いに対する答えは、現時点では「イエス」 だ。RoguePromptの93.93%というバイパス率、Microsoftの単一プロンプトによる全モデル突破、DeepSeekの100%攻撃成功率は、自己検閲が決して絶対的な防御壁ではないことを如実に示している。

    検閲は「機能」なのか「欠陥」なのか【目次3-5】——この問いを超えて、私たちはより根源的な問題に向き合わねばならない。すなわち、「検閲可能なAI」という前提そのものが、プロンプトインジェクションという攻撃ベクトルを永遠に生み続けるという構造的ジレンマだ。

    技術の進化とともに攻撃も防御も高度化する。自己検閲の「無効化」は可能であり、そしておそらくこれからも可能であり続ける。重要なのは、完全な防御を幻想とせず、リスクを前提とした運用設計と継続的な監視の仕組みを構築することだろう。


    (本記事は2026年8月時点の最新の研究知見に基づいて作成されています)


    ▼ DeepSeekを、日本語で学び、動かし、安全に使う。
    実践学習サイト「deepseek.ac」では、参考書の内容を
    操作と実装で確かめられる教材を公開しています。

    ▼ 参考書・問題集
    『DeepSeek安全運用の手引き』
    『DeepSeek安全運用の手引き 問題集 全70問』


    あなたへのおすすめ