メインコンテンツへスキップ
見出し画像

相次ぐ情報漏えいを受けた調査で、攻撃者はAIを何に使っていたのか

    相次ぐ情報漏えいを受けて攻撃元のサーバーを調べる中で、攻撃者がAIを使っていたことが確認された。

    確認したのは、JPCERT/CC(国内のサイバー攻撃の報告を受け、対応を調整する組織)である。
    10月15日に公式ブログで調査結果を公表した。

    攻撃者はAIで何をしていたのか。
    狙われたのはどんなシステムで、会社は何を先に確かめればよいのか。

    JPCERT/CCが確認した、攻撃者のAI利用

    JPCERT/CCは10月8日に、相次ぐ不正アクセスと情報漏えいについて注意喚起を出した。

    JPCERT/CCは複数の組織と連携し、攻撃に使われた可能性のあるサーバーなどを調べている。
    10月15日のブログには、次の1文がある。

    「その過程で、攻撃者がAIを利用して、既知の脆弱性のスキャンやAPI経由での攻撃などを実施していたことを確認しました。」

    脆弱性は、ソフトウェアの欠陥のうち攻撃に使えるものを指す。
    APIは、アプリとサーバーの間で情報をやり取りする仕組みである。

    こうした攻撃元のサーバーは、インターネット上で複数見つかった。
    日本以外の地域向けのWebサービスにも攻撃をしていた。

    JPCERT/CCは、攻撃の標的になっている可能性がある組織を見つけた場合、その組織に連絡しているとブログに書いている。
    JPCERT/CCから連絡を受けたときは対応してほしい、とも書いている。

    画像

    出典

    出典は、JPCERT/CCの公式ブログと注意喚起、NICT(情報通信研究機構)の注意喚起である。
    被害を受けた企業の名前は、どの出典にも書かれていない。

    攻撃者はアプリから何を調べたのか

    手口の特徴の一つは、Android向けアプリの配布ファイル(APKファイル)を解析し、特定したAPIを悪用する点である。
    攻撃元のサーバーには、APKファイルが保存されていた。

    別のサーバーには、APKファイルとともに、アプリを解析するツールに関連するファイルもあった。
    APKファイルの展開に関連する可能性のあるフォルダも見つかっている。

    NICTは、この手口を「A2B攻撃(App-to-Backend Attack)」と呼び、次のように書いている。

    「アプリ自体に脆弱性がなくても、バックエンドサーバの認証・認可や入力値の検証などに不備があれば、不正アクセスや個人情報の漏洩につながるおそれがあります。」

    NICTは、アプリを公開する事業者に向けた部分を、次の1文で締めている。

    「公開アプリが解析されることを前提に、バックエンドサーバの安全性を確保することが重要です。」

    10月8日の注意喚起は、API経由の手口を具体的に挙げている。

    • 公開しているスマホアプリを解析し、APIの接続先やキーを特定する

    • 画面の操作では実行できない内部のAPIを直接攻撃する(利用者の権限を変える、不正なアカウントを作る など)

    • 他のシステムへの侵入で盗んだAPIキーを使う

    ブログが示した攻撃元のIPアドレス3つのうち2つは、注意喚起のこの手口の欄にも載っている。

    社員向けのシステムやBIツールも被害に遭った

    注意喚起は、一般の利用者向けのアプリのほかに、社内向けのシステムも被害に遭ったと書いている。

    「一般利用者向けのアプリのほか、BI(ビジネスインテリジェンス)ツールや従業員向け管理システムなど、管理・運用側で不特定多数の利用者からのアクセスを想定していないシステムが被害に遭い、内部に保存していた情報が漏えいするケースもあります。」

    BIツールは、社内のデータを集計して表やグラフにする道具である。

    注意喚起は、こうした社内向けのシステムも点検の対象にするよう、概要と対策の2か所で書いている。

    「こうしたシステムについても下記のような点検などを行う必要があります。」

    注意喚起は、もう1つの手口として、さまざまなソフトウェアの既知の脆弱性を探して攻撃を試みるものを挙げている。
    1つの製品の欠陥を共通して狙う形ではない、という書き方である。

    NICTは、AIについて次のように書いている。

    「また、AIの活用によってアプリ解析や脆弱性探索が効率化され、こうした攻撃がより多くのシステムに及ぶ可能性にも注意が必要です。」

    要因と対策、事故前に必要だった準備

    要因(注意喚起とブログに書かれた攻撃の手口。個別の被害の原因は書かれていない)

    • 公開しているスマホアプリが解析され、APIの接続先やキーが特定された

    • 画面からは実行できない内部のAPIが、直接攻撃された

    • さまざまなソフトウェアの既知の脆弱性が探され、攻撃が試みられた

    対策(JPCERT/CCが推奨したもののうち6つ)

    • APIの認証に使う秘密鍵や、有効期間の長い認証情報をアプリに埋め込まない

    • アプリ内の署名処理や難読化だけに頼らず、サーバー側で利用者を認証し、操作の対象や内容に応じて許可を与える

    • APIへのリクエスト件数を制限し、異常なリクエストを監視する

    • 業務上必要のない管理機能などがインターネットに公開されていれば、公開を停止する

    • 既知の脆弱性の影響を受けるバージョンなら、修正済みのアップデートを適用する

    • 保存期間を過ぎたデータや、利用目的を終えたデータを残さない

    画像

    事故前に必要だった準備

    JPCERT/CCが推奨した対策のうち6つを、攻撃を受ける前の準備として並べ直した。

    • アプリを公開する前に、APIの秘密鍵や長く使える認証情報が埋め込まれていないか確かめる

    • 使う前に、サーバー側で利用者を認証し、操作に応じて許可する作りにしておく

    • APIを公開する前に、リクエスト件数の上限と監視を決めておく

    • 業務に要らない管理機能は、インターネットに公開して使わない

    • 既知の脆弱性の影響を受けるバージョンのまま使わない

    • 保存期間を過ぎたデータや、利用目的を終えたデータは残さない

    この6つのほかに、注意喚起には次のような対策も書かれている。
    アクセス元の地域の制限や、不正アクセスを見つけたときの初動の見直しなどである。

    関連する記事

    #生成AI #AI #情報漏洩 #サイバー攻撃 #セキュリティ

     
     
    生成AIを使え・導入しろと言われた担当者と経営者へ。実際に起きた生成AIの事故・情報漏えい・規約変更を、1件ずつ記事にしている(10月から15件)。各記事で、何が起きたか、なぜ起きたか、自分の会社で使う前に決めることまで。出典のURL付き。

    あなたへのおすすめ