メインコンテンツへスキップ
見出し画像

生成AIのAPIキーを盗まれて使われないために、会社で確かめる16項目

    会社の生成AIのAPIキーが狙われる事故の公表が続いている。

    APIキーは、社内のシステムやアプリから生成AIを使うときに発行する文字列である。
    キーが他人の手に渡ると、その人は、キーを発行した会社の契約でAIを使える。利用料は会社の負担になる。

    認証情報は、APIキーやパスワードなど、サービスを使うときに本人であることを示す情報である。

    この記事では、最近公表された事故3件と調査報告1件から、会社で確かめる16の項目を表にまとめた。
    自社がAPIキーを発行しているか分からなければ、開発の担当者か、システムを作った委託先に確かめる。

    最近公表された事故3件と調査報告1件

    キングプリンターズ(国内)

    ネット印刷のキングプリンターズは9月10日、同社が管理するシステム基盤への不正アクセスを検知し、サイトと関連機能を9月14日まで止めた。

    9月25日の第2報では、事象の目的について次のように書いている。

    現在までの社内調査では、今回の事象は、当社が保有する認証情報を用いた生成AIサービスの不正利用が目的と見られます。

    キングプリンターズ 第2報(2026年9月25日)

    顧客の個人情報とデータの漏えいは、9月25日の時点で確認されていない。
    外部の専門機関による調査が10月初旬から予定されており、11月7日の時点で続報は出ていない。

    Google Mandiant の報告(LLMの利用権限の乗っ取り)

    Google のセキュリティ調査部門 Mandiant と GTIG(Google 脅威インテリジェンスグループ)は、11月3日付で報告を公表した。

    LLMは、ChatGPT や Gemini などの生成AIの元になる大規模言語モデルである。
    報告は、会社のLLMの利用権限を乗っ取って使う攻撃を「LLMJacking」と呼んでいる。

    ここでいうクラウドは、Google Cloud や Microsoft Azure のように、会社のシステムやアプリを動かす場所を貸すサービスである。

    Mandiant は2026年に、この攻撃の事案に複数対応した。
    1日で10万ドルを超える不正な利用料が出た事案があり、アクセスを止めるまでに累計100万ドルに達した組織もあった。

    Mandiant が調べた複数の事案では、被害に遭った会社は、侵入された時点でクラウドの生成AIのサービスを使える状態にしていなかった。
    攻撃者は侵入したあと、使える状態に切り替えていた。

    Northflank(登録していたAPIキーの無断利用)

    Northflank は、利用する会社が作ったアプリを動かす場所を貸すクラウドである。

    このクラウドに攻撃者が侵入し、顧客からは、Northflank に登録していたAIのAPIキーが無断で使われたという報告が出た。

    Northflank は10月30日から経過を公表した。
    顧客には、すべてのAPIキーなどを、キーを発行したサービス側で使えなくし、新しいものに替えるよう求めた。

    Cursor の拡張機能の改ざん

    Cursor は、プログラムを書くための編集ソフトである。
    後から機能を足す「拡張機能」を配る場所がある。

    その場所で10月29日、Claude Code(AIでプログラムを書く道具)の拡張機能の改ざんされた版が、約11時間配られた。

    Cursor は、改ざんされた版を入れた利用者に、被害のあったPCから使えた認証情報を、信頼できる別のPCから作り直すよう求めた。

    画像

    公的資料が示していること

    IPA(情報処理推進機構)の「情報セキュリティ10大脅威 2026」組織編では、「AIの利用をめぐるサイバーリスク」が初めて選ばれ、3位になった。

    総務省の「クラウドサービス利用・提供における適切な設定のためのガイドライン」は、プログラムが使うキーについて、次の1文を置いている。

    また、サービスアカウントに対しては、プログラム等が使用するAPIのアクセスキー及びシークレットキー(クレデンシャル情報)の設定管理についても不十分であるとシステム全体の乗っ取りなどのリスクがある。

    総務省「クラウドサービス利用・提供における適切な設定のためのガイドライン」

    サービスアカウントは、人ではなくプログラムが使うアカウントである。
    この1文は、プログラムが使うAPIキーなどの管理が不十分だと、システム全体を乗っ取られるおそれがあるという意味である。

    確認表の項目の決め方

    確認表の項目は、当事者や報告が示した対策を、「はい」か「いいえ」で答えられる問いに書き直したものである。

    項目は、次の3つの場面に分けた。

    • これからAPIキーを発行するとき、またはすでに発行しているとき(9項目)

    • 自社のアプリを外部のクラウドで動かし、そこにAPIキーを登録するとき(4項目)

    • 侵入されたときの手順を前もって決めておく(3項目)

    有料部分に入っているもの

    有料部分には、次の4つが入っている。

    1つ目は、16の確認項目を3つの場面ごとに並べた一覧である。
    どの項目も「〜か」と問う形にしてある。

    2つ目は、各項目の根拠である。
    根拠には、元になった事故と、当事者や報告が示した対策を書いた。

    3つ目は、各項目の確かめ方である。
    Anthropic(Claude の提供元)、Google Cloud、Microsoft Azure の公式の説明に画面の名前や注意書きがあれば、それも添えた。

    4つ目は、記入して使えるExcelファイルである。
    列は「No/場面/確認項目/元になった事故/当事者・報告の対策/確かめ方/結果(はい・いいえ・該当なし)/確認日/担当/一次情報URL」である。

    見本として、1つ目の項目だけをここに載せる。

    クラウドで生成AIのサービスを使ってよい社員のアカウントとプログラム用のアカウントを決め、それ以外からは使えない設定にしたか

    元になったのは、Mandiant の報告である。
    報告は、社員とプログラム用のアカウントには役割に必要な権限だけを与え、生成AIのサービスも必要がなければ使えなくするよう勧めている。

     
     
    生成AIを使え・導入しろと言われた担当者と経営者へ。実際に起きた生成AIの事故・情報漏えい・規約変更を、1件ずつ記事にしている(10月から15件)。各記事で、何が起きたか、なぜ起きたか、自分の会社で使う前に決めることまで。出典のURL付き。

    あなたへのおすすめ