メインコンテンツへスキップ
見出し画像

4-2 プロンプトからAPIキーは漏洩するか——入力データのログ管理とその危険性

    画像
    プロンプトからAPIキーは漏洩するか——入力データのログ管理とその危険性

    はじめに:APIキー漏洩という現実的な脅威

    DeepSeekに限らず、LLM APIを利用するすべての組織が直面するリスクの一つが「APIキーの漏洩」です。これは単なる「もしもの話」ではなく、すでに現実のインシデントとして顕在化しています。本記事では、プロンプト入力からAPIキーが漏洩するメカニズムと、その防御策について最新の事例を交えながら解説します。


    1. なぜAPIキーが「プロンプト」から漏れるのか

    1-1 ログ管理の落とし穴

    最も基本的でありながら見過ごされがちな漏洩経路は、アプリケーションのログです。API呼び出しのリクエスト/レスポンスをデバッグ目的でログに出力する際、Authorization: Bearer sk-xxx といった認証ヘッダーがそのまま記録されるケースがあります。

    たとえば、DeepSeek APIを呼び出すシェルスクリプトでエラーレスポンス全体をログ出力する実装があった場合、エラー応答にリクエストヘッダーがエコーバックされると、そこに含まれるAPIキーが丸見えになる可能性があります。実際に、OpenObserveプロジェクトの修正Pull Requestでは、echo "Full response: $RESPONSE"という行がAPIキー漏洩の原因として指摘され、削除されています。

    1-2 環境変数の継承問題

    LLMエージェントがサブプロセスとして実行される場合、親プロセスの環境変数がそのまま引き継がれることがあります。これにより、本来エージェントがアクセスすべきでないサーバーシークレットまでがエージェントの実行コンテキストに含まれてしまう危険性があります。

    具体的には、process.envをそのままエージェントのサブプロセスに渡す実装では、SUPABASE_SERVICE_ROLE_KEYなどの重要なシークレットが、プロンプトインジェクションによって echo $SUPABASE_SERVICE_ROLE_KEY と指示されるだけで外部に漏洩する可能性があります。


    2. 現実に起きた漏洩インシデント

    2-1 DeepSeek自社のデータベース露出事件(2025年1月)

    皮肉なことに、DeepSeek自身が大規模なデータ漏洩の当事者となった事例があります。2025年1月、Wiz ResearchはDeepSeekのClickHouseデータベースが認証なしでインターネットに公開されていることを発見しました。

    このデータベースには、ユーザーのチャット履歴、APIキー、バックエンドシステムログなど、100万件以上のログエントリが含まれていました。WizのCTOは「このサービスは機密データを扱うには成熟していない」とコメントしており、AIプロバイダー自身のセキュリティ運用の未熟さが浮き彫りになりました。

    2-2 AIエージェントを標的とした間接プロンプトインジェクション

    2026年にかけて、AIエージェントを狙った間接プロンプトインジェクション(IPI)攻撃が急増しています。GitHub Actionsと連携するAIツール(AnthropicのClaude Code、GoogleのGemini CLI Action、GitHub Copilot Agent)が、Pull RequestのタイトルやIssue本文に埋め込まれた悪意の指示を実行してしまう脆弱性が発見されました。

    攻撃者は以下のような手口でAPIキーを窃取します:

    1. GitHubのPRタイトルにプロンプトインジェクションのペイロードを埋め込む

    2. AIエージェントがそのPRを「信頼できる入力」として処理

    3. AIエージェントが埋め込まれた指示を実行し、環境変数からAPIキーを読み取る

    4. 窃取したキーをJSONレスポンスやPRコメントとして外部に出力

    この攻撃の本質は「モデルが悪い」のではなく、エージェントランタイムが外部入力を命令とデータとして区別できない構造的問題にあります。


    3. 攻撃の実例:CVE-2026-15746

    2026年7月に公開されたCVE-2026-15746は、Strands AgentsというAIエージェント構築用Python SDKの脆弱性です。この脆弱性では、elasticsearch_memoryツールが接続パラメータ(es_url、api_keyなど)をLLMが制御できるフィールドとして公開していたため、細工されたプロンプトによってオペレーターのElasticsearch APIキーが攻撃者サーバーに送信される問題が発生しました。

    特に注目すべきは、api_keyパラメータが省略されると、システムが自動的に環境変数ELASTICSEARCH_API_KEYにフォールバックした点です。つまり、一見正しいフォールバック動作が、結果として認証情報の外部送信を可能にする踏み台となったのです。


    4. 防御策とベストプラクティス

    4-1 ランタイムガードレールの実装

    現在では、AIエージェントの実行時にAPIキーの漏洩を検出/阻止するセキュリティツールが登場しています。たとえば、DeepSeek Harness向けの「dsh-guardwall」は以下の機能を提供します:

    • 入力側インターセプト:ツール呼び出しのパラメータを実行前にスキャンし、~/.sshや.envへのアクセス、sk-やAKIAなどの平文認証情報を検出した場合に実行をブロック

    • 出力側オーディット:ツール実行結果を監視し、秘密鍵やAPIキーの出力を検出してアラート

    また、ClawGuardのような研究フレームワークでは、タスクごとにアクセス可能なリソースを動的に制限する「最小権限」アプローチが提案されています。

    4-2 プロキシパターンによる認証情報の分離

    認証情報をエージェントのコンテキストから完全に分離するアプローチとして、「Phantom Token」パターンがあります。これは:

    1. エージェントにはセッショントークンのみを渡す

    2. プロキシがセッショントークンを実際のAPIキーに動的に変換

    3. エージェントは生のAPIキーを一切保持しない

    この方式では、たとえエージェントがプロンプトインジェクションに成功しても、環境変数から直接APIキーを抜き出すことが物理的に不可能になります。

    4-3 アクティベーションモニタリング

    最新の研究では、LLMの隠れ状態(hidden states)を監視することで、モデルが認証情報にアクセスしている兆候を出力前に検出する手法(CIFT: Activation-Based Credential Access Detection)が提案されています。これは従来のテキストベース監視では検出が難しいBase64エンコードなどの巧妙なデータ流出にも対応可能です。


    おわりに

    「プロンプトからAPIキーが漏洩する」というリスクは、もはや理論上の脅威ではありません。2025年から2026年にかけてのインシデント群は、AIエージェントの普及に伴い、攻撃対象が「モデル」から「ランタイム」へとシフトしていることを明確に示しています。

    重要なのは、APIキーを「文字列」として扱うのではなく、「アイデンティティ」として管理する視点です。生のAPIキーをエージェントのコンテキストに含めない設計、出力監視の仕組み、最小権限の原則——これらを組み合わせた多層防御が、LLM活用の安全な運用には不可欠と言えるでしょう。


    ▼ DeepSeekを、日本語で学び、動かし、安全に使う。
    実践学習サイト「deepseek.ac」では、参考書の内容を
    操作と実装で確かめられる教材を公開しています。

    ▼ 参考書・問題集
    『DeepSeek安全運用の手引き』
    『DeepSeek安全運用の手引き 問題集 全70問』


    あなたへのおすすめ