メインコンテンツへスキップ
見出し画像

生成AIで書いたメール送信プログラムで9.5万人のアドレスが他人に見えた|シンガポール当局が公表した「AIの誤作動ではない」情報漏えい

    社員が生成AIに、「ローカルのリストを使った一括メール(mass email using a local list)」をバッチで送るプログラムを書くよう頼んだ。
    できたスクリプトは、同じ送信バッチの最大999人分のメールアドレスを、受信者全員の宛先欄に表示した。
    シンガポールの個人データ保護委員会(PDPC)が2026年9月21日に公表した執行決定の内容である。AIの誤作動ではなかった。

    何が起きたか

    画像

    当事者はシンガポールの企業 Bee Cheng Hiang Marketing Pte Ltd。PDPCの執行決定に書かれている経過は次のとおり。

    • 2026年4月25日、会員向けのマーケティングメールを約1,000人ずつのバッチで送信した

    • 各バッチ内の全員のメールアドレスが「To」欄に表示され、同じバッチの他の受信者に見えた

    • 影響を受けたのは会員95,364人。漏れた個人データはメールアドレスのみ

    • 1人のアドレスは、同じバッチの最大999人に開示された

    • 4月27日、会社はPDPCに届け出た

    • 漏れたデータがその後に悪用された証拠はない

    原因は、社員が生成AIツールを個人利用して作ったPython製のメール配信スクリプトの設定誤りだった。括弧が1つ足りず、バッチ内の全アドレスが1つの宛先オブジェクトにまとめられていた。

    執行決定にある誤ったコードと修正後のコードは次のとおり。

    誤り: "personalizations": [{"to": [{"email": str(e)} for e in chunk]}]

    修正後: "personalizations": [{"to": [{"email": str(e)}] } for e in chunk]

    出典

    AIは壊れていない。指示が足りなかった

    執行決定はこう書いている。

    "This was not a malfunction in the AI tool but resulted from the prompt given to the AI tool to write a programme to send "mass email using a local list" in batches, without specific instructions to block the visibility of other recipients' email addresses to each individual recipient."
    (訳: これはAIツールの誤作動ではなく、「ローカルのリストを使って一括メール」をバッチで送るプログラムを書くようAIツールに与えた指示が原因だった。他の受信者のメールアドレスを各受信者から見えなくするという具体的な指示がなかった)

    AIへの指示に、他の受信者のアドレスを各受信者から見えなくするという指示が入っていなかった。 執行決定が原因として書いているのはこの1点である。

    社員はスクリプトを本番で動かす前にテストをしていた。ただし確認したのは動作ログだけで、実際のテストメールの内容は確認していなかった。

    PDPCが挙げた3つの条件

    執行決定は、次の3点により事故が起きたとみられるとしている。

    1. スクリプトを本番に出す前の検証が十分でなかった
    2. 社員1人に頼り、その仕事を上司が確認するレビューの仕組みがなかった
    3. 業務での生成AIツールの使い方を定めた統制の枠組みや方針がなかった

    この会社がAIツールを業務に取り入れたのは、これが初めてだった。PDPCは、AIツールを導入する前に、データ保護影響評価を行い、方針と手順を整え、テストとレビューの仕組みを入れるべきだとしている。

    自分の会社で同じことが起きる使い方

    執行決定の記述を、日本の職場に置き換えると条件はこう読める。

    • 顧客リストを扱う作業を、生成AIで書いたスクリプトで1人が回している

    • 「○○するプログラムを書いて」と目的だけ伝え、見せてはいけない情報の扱いを指示していない

    • テストは「エラーなく動いた」の確認だけで、出力の中身を人が見ていない

    • 生成AIで作ったコードを、作った本人以外が見ないまま本番で使っている

    • 会社として「生成AIを業務のどこに、どう使ってよいか」が決まっていない

    防ぐために何が要るか

    画像

    会社は9月2日に是正誓約(Voluntary Undertaking)に署名し、PDPCがこれを受理した。誓約の内容は次のとおり。

    • AI支援コーディングの統制枠組みを作り、個人データを扱うAI生成コードには独立した技術レビューを必須にする

    • セキュアな開発ライフサイクルを採り、配信前にダミーやテスト用の宛先へテスト送信する

    • 事故対応の手順を文書化し、役割・封じ込め・調査・エスカレーションの期限・通知の流れを決める

    • 一括メールで、複数の宛先アドレスが1つのメールオブジェクト(personalisation entry)に入る送信を防ぐ自動の技術的制御を入れる

    • 個人データを扱うシステムの開発・レビュー・配備に関わる技術職員全員に研修を行う

    誤りを確認した時点で会社が取った対応も書かれている。一括配信を止め、スクリプトを直し、影響を受けた全員に通知し、一括メールは送る前に2人以上で二重確認することにした。

    PDPCは誓約の履行を検証し、守られない場合は是正の指示を出すことがあるとしている。

    #生成AI #情報漏えい #メール誤送信 #個人情報保護 #AIコーディング

     
     
    生成AIを使え・導入しろと言われた担当者と経営者へ。実際に起きた生成AIの事故・情報漏えい・規約変更を、1件ずつ記事にしている(10月から15件)。各記事で、何が起きたか、なぜ起きたか、自分の会社で使う前に決めることまで。出典のURL付き。

    あなたへのおすすめ