DX推進・生成AIの社内ルールは「流出後」では遅い。RIZAP事例から考えるシャドーAI対策

生成AIの社内ルールは「流出後」では遅い。RIZAP事例から考えるシャドーAI対策

「生成AIに入力した情報が、実際に悪用されたわけではない」
「インターネット上に公開されたわけでもない」
「AIの回答として個人情報が出てきたわけでもない」

それでも、企業として社会に公表する。
2026年9月3日にRIZAP株式会社が公表した、外部生成AIサービスへの顧客情報の誤アップロード事案を見て、私はここが非常に重要だと感じました。

今回、社員が個人で使用していた外部の生成AIサービスに、特定保健指導に関する顧客データの一部を誤ってアップロードしました。
そこには氏名、生年月日、メールアドレス、住所、電話番号だけでなく、高血圧症、糖尿病、脂質異常症などの疾患情報も含まれていました。

一方、公表時点では、生成AIサービスの運営事業者以外の第三者に閲覧された可能性はなく、生成AIの学習に利用された可能性もないことが確認されています。

ただし、サービス運営事業者の役職員等が閲覧可能な状態にあった可能性については、引き続き確認中とされていました。
RIZAPは個人情報保護委員会への報告を行い、対象者への連絡を進めるとともに、社会に対して今回の事案を公表しています。

このニュースを、「社員が生成AIを間違って使った情報漏えい事故」だけで終わらせてしまうと、生成AI時代の企業リスクの本質を見落とすと思います。

今回考えるべきなのは、もっと手前の部分だと私は考えています。

情報が悪用されたかどうかではなく、自社が管理していた情報を、自社ではコントロールできないAIサービスへ渡した時点で、企業のリスク管理が始まる。
生成AIの社内ルールを考えるうえで、この変化は非常に重要です。

「漏えいしたか」より先に、「管理できなくなったか」を考える時代

従来、企業がイメージする情報漏えいは比較的わかりやすいものでした。
顧客名簿を紛失した。
メールを間違った相手に送った。
USBメモリをなくした。
サーバーが不正アクセスを受けた。

こうした事故であれば、「情報が外に出た」という感覚を持ちやすいと思います。ところが、生成AIは少し違います。

「AIに質問しただけ」
「Excelを分析してもらっただけ」
「資料を要約してもらっただけ」
社員側はそんな感覚になりやすいからです。

しかし、そのExcelやPDFの中に顧客情報が含まれていれば、企業の視点では全く違う意味を持ちます。

• アップロードした情報はどこに保存されるのか。

• どのくらいの期間保持されるのか。

• 機械学習に利用されるのか。

• サービス提供企業の担当者は見ることができるのか。

• 削除したら完全に消えるのか。

• 海外のサーバーに保存される可能性はあるのか。

こうしたデータの取扱いを、自社だけで決めることができなくなります。
私は今回のRIZAPの事例が示している大きなポイントは、ここにあると思います。

生成AIのリスクとは、「AIから情報が流出した瞬間」に始まるのではなく、「自社で情報を完全に管理できなくなった瞬間」から始まる。ということです。

実害が無しでも「報告する」ほど企業は生成AIを脅威的かつ危機感を感じる

今回、もう一つ考えたいのが、企業側の危機感です。
厳密に言えば、RIZAPは公表時点ですでに、生成AIの学習に利用された可能性や、サービス運営事業者以外の第三者に閲覧された可能性はないと確認しています。

ですから、「顧客情報がAIに学習されてしまった」という事案ではありません。ここは正確に分ける必要があります。

それでも、情報の取扱いについて確認すべき事項が残る中で、行政機関への報告、対象者への連絡、そして対外公表まで行っています。

個人情報保護委員会では、要配慮個人情報を含む個人データについて、「漏えい等が発生した場合」だけでなく「発生したおそれがある場合」についても報告対象となることを示しています。
今回のデータに含まれていた疾患情報や保健指導に関する情報は、慎重な取扱いが求められる情報です。

さらに興味深いのは、「行政への報告」と「社会への公表」は必ずしも同じではないことです。

個人情報保護委員会のQ&Aでは、漏えい等の事案が発生した場合でも、一定の場合を除いて事案そのものの公表が一律に義務付けられているわけではなく、事案の内容に応じて公表することが望ましいとされています。

つまり今回の公表は、「実際に悪用されたことが確認されてから対応する」という考え方ではありません。
リスクが発生した段階で、企業として説明責任を果たす。

今回のRIZAPの対応は、AIに対する重要インシデントの発生後の対応は賞賛に値するようにも私は感じます。
私は、ここに生成AIに対する企業のリスク認識が表れているように感じます。

「生成AIは便利だから使えばいい」という段階から、「使うのであれば、どこへ情報が渡り、誰が責任を持ち、問題が起きたときに説明できる状態にしなければならない」という段階に入ってきたと考えています。

大手企業ですら、それだけ慎重に扱っているという事実は、中小企業にとっても無関係ではありません。

シャドーAIが怖いのは、会社が問題に気づけないことです

ここで問題になるのが「シャドーAI」です。
＊シャドーAIとは、会社が正式に承認・管理していない生成AIサービスを、従業員が業務のために利用することを指します。

IPAも2026年7月に公開した生成AIセキュリティの資料で、従業員が未承認のAIを業務利用するシャドーAIによる情報漏えいリスクを挙げています。

シャドーAIの本当の怖さは、「社員がAIを使っていること」そのものではありません。
会社が、何が入力されているのか把握できないことです。

たとえば営業担当者が自分のアカウントで生成AIを使い、
「この顧客一覧を分析してください」とExcelファイルをアップロードしたとします。

どのサービスへ情報が渡ったのか。
どの設定で利用されていたのか。
いつアップロードしたのか。
削除されたのか。
学習利用の設定はどうだったのか。

その事実を会社が知らなければ、会社側では確認できません。
何か問題が起きたとき、調査することさえ難しくなります。

これは単なるITの問題ではありません。
企業のガバナンス、つまり「会社として業務を適切に管理できているか」という経営の問題です。

「生成AI禁止」だけでは、シャドーAIはなくならない

では、会社として生成AIを全面禁止するのか、と言えば私は、それだけでは解決しないと思っています。

生成AIを使う社員の多くは、会社の情報を盗もうとして使っているわけではないからです。

仕事を早く終わらせたい。
文章をうまくまとめたい。
Excel集計を効率化したい。
人手不足で作業時間を減らしたい。

こうした理由で使い始める人が大半のはずです。
＝会社のために生産性を上げようとしてくれているわけです。

ここで会社が、「危険だから全部禁止」としてしまうと、業務上の困りごとは残ったままです。
すると、一部の社員は会社に言わずに使うようになります。

行動経済学では、人は将来発生するかもしれないリスクより、目の前ですぐ得られるメリットを高く評価してしまう傾向があります。
これを「現在バイアス」と呼びます。
＊現在バイアス：将来の利益や損失よりも、目の前の利益や負担を強く感じてしまう心理的傾向です。

「いつか情報事故が起きるかもしれない」というリスクより、
「今日の報告書が30分早く終わる」
というメリットの方が強く感じられることがあります。
ですから、社員の注意力だけに依存した生成AI対策は続きません。

必要なのは、社員が正しい方法を選びやすい仕組みです。

生成AIの社内ルールは「何を禁止するか」だけでは足りません

生成AIの社内ルールというと、
「顧客情報を入力してはいけません」
「機密情報は禁止です」
といった禁止事項から作り始める会社が多いと思います。

ただ、「機密情報を入れないでください」だけでは、現場では判断できません。

「顧客名を消せばいいのか」
「売上金額は機密情報なのか」
「会社名だけならいいのか」
「PDFをアップロードするのは入力に当たるのか」
「有料版なら個人情報を入れてよいのか」

社員からすると、たくさんの疑問や質問・わからないことが出てきます。
これを解決するのが私のようなDXコンサルタントやAI研修の場になります。

ですから私は、生成AIの社内ルールでは最低でも次のことを整理する必要があると考えています。

・会社として利用を許可するAIサービス
・利用を禁止するAIサービス
・入力してはいけない情報
・ファイルアップロードの可否
・個人情報を匿名化・マスキングする方法
・AIを利用できる業務と利用しない業務
・生成された回答を誰が確認するか
・誤って情報を入力した場合の報告先
・問題発生時にログや利用履歴を確認できる仕組み

重要なのは、社内規程を作ることそのものではありません。
現場の人が迷わず判断できる状態を作ることです。

個人情報については「学習されないから大丈夫」でもありません

生成AIについて、
「このサービスは入力データをAI学習に利用しないから安全です」
という説明を聞くことがあります。
もちろん、学習利用の有無は非常に重要です。

個人情報保護委員会も、個人データを生成AIサービスへ入力する場合、サービス提供者が機械学習に利用しないことなどを十分確認するよう注意喚起しています。

しかし、企業が確認すべきことはそれだけではありません。
学習されなくても、一時的に保存される可能性はあります。
サービス運営者が一定条件でアクセスできる可能性もあります。
契約プランによってデータの扱いが違うこともあります。
利用するサービスや設定が社員任せになっていれば、会社として実態を把握できません。

だから、「AIが学習するか、しないか」という一点だけで安全性を判断しないことが重要です。
見るべきなのはデータの流れです。

• 誰が入力するのか。何を入力するのか。

• どこへ送られるのか。

• どこに保存されるのか。

• 誰がアクセスできるのか。

• いつ消えるのか。

ここまで考えて初めて、企業として生成AIを管理していると言えると思います。

シャドーAIが発生したら、社員だけを責めない

私がDXの支援に入ったとき、もし社員が勝手に生成AIを使っていたとしても、最初から「なぜルールを守らなかったのですか」とは考えません。

まず確認したいのは、なぜその社員はAIを使う必要があったのか。ということです。

毎日同じ文章を作っていた。
Excel集計に何時間もかかっていた。
過去の資料を探す作業が多かった。
一人に業務が集中していた。
報告書作成で残業が増えていた。

こうした背景があるかもしれません。
もしそうであれば、生成AIを禁止しても業務上の問題は残ります。

人はまた別の方法を探します。だからシャドーAI対策では、「使わせない仕組み」だけではなく、「なぜ使いたくなったのか」を業務改善の入口として見ることも重要です。

これは人を置き去りにしないDXにもつながります。
社員を監視してAIを排除するのではありません。

安全に使える場所を会社側が用意する。
AIを使わなくても改善できる業務は改善する。
AIが有効な業務だけ小さく試す。

私は、この方が結果的にセキュリティも高くなると経営幹部向けのAIガバナンスや研修などはお話しています。

大手企業の事例だからこそ、中小企業は今のうちに考えておきたい

今回のRIZAPのニュースを見て、「大企業だから大変だ」
と思う方もいるかもしれません。

しかし私は、むしろ中小企業ほど早めに考えておいた方がよい問題だと思います。
大企業には、法務部門、情報システム部門、セキュリティ担当者などがいることがあります。
それでも、個人で利用している生成AIまで完全に把握することは簡単ではありません。

では、専任のIT担当者がいない会社ではどうでしょうか。

• 社員が自分のスマートフォンでAIを使っている。

• そもそもAIがスマホに付いている

• 個人アカウントで資料を要約している。

• 取引先情報をAIへ貼り付けてメール文を作っている。

• その事実を経営者自身が知らない可能性もあります。

「当社は生成AIを導入していないから関係ない」とは、もう言えない状況になっています。

会社が導入していなくても、社員は使えるからです。
これがシャドーAI対策を急ぐ理由です。

生成AIの社内ルールは、小さく始めればいい

では、何から始めればよいのでしょうか。
いきなり30ページのAI利用規程を作る必要はありません。

「社員が今どんな生成AIを使っているか」
「何の業務で使っているか」
「そこではどんな情報を扱っているか」
を確認してみてください。

• この業務はAIを使ってよい。

• ここから先は人が確認する。

• この情報は絶対に入力しない。

• ファイルを使う場合はこの環境だけ。

という最低限の線を引きます。

経済産業省のAI事業者ガイドラインでも、安全性、プライバシー保護、セキュリティ、透明性、アカウンタビリティなどを含め、AI利用を組織として管理する考え方が示されています。
ただし、中小企業が最初から大企業と同じ管理体制を作る必要はありません。

まず一部署。
まず一業務。
まず一つの生成AI。
小さく使い、問題を確認し、ルールを更新していく。それで十分です。

生成AIの問題は、AIの問題ではなく「業務と管理」の問題です

今回の事例を見て、「やはり生成AIは怖い」という結論だけにするのは、少し違うと思っています。
確かに、企業が生成AIをリスクとして重く見る時代になっています。

大手企業が、実際の悪用や第三者への流出が確認されていない段階でも、行政への報告や社会への公表、再発防止策の提示まで行う。
それだけ、生成AIに情報を渡す行為そのものが企業の信用やガバナンスに関わる問題になってきたということでしょう。

しかし、だからといってAIを全部禁止すればよいわけでもありません。
重要なのは、AIに何をさせるかではなく、業務と情報をどう管理するかです。生成AIの前に、業務の流れを見る。

誰が何の情報を扱っているのかを見る。
社員がどこで困っているのかを見る。
そのうえで、AIを使った方がよいところだけ使う。
そして、会社として管理できる環境の中で利用する。

これが、私は生成AI時代のDXに必要な考え方だと思っています。
DXは、大きなシステム導入から始める必要はありません。
生成AIの社内ルールについても同じです。

まず現状を把握し、一つずつ整理することから始めればよいのです。

「社員がどの生成AIを使っているかわからない」
「生成AIの社内ルールを作りたいが、どこまで禁止すればよいかわからない」
「情報セキュリティと業務効率化を両立したい」
「そもそも自社のどの業務でAIを使うべきかわからない」

という状況であれば、一度AIそのものから離れて、業務と情報の流れを整理してみることをおすすめします。

自社だけでは整理しにくい場合には、外部の視点を入れる方法もあります。

生成AIをたくさん使うことがDXではありません。
必要なところだけ、安全に、現場が無理なく使えること。
今回の事例は、その重要性を改めて考えさせるニュースだったと思います。

参考資料

・RIZAP株式会社「当社における外部生成AIサービスへのお客様情報の誤ったアップロードに関するお詫びとお知らせ」（2026年9月3日）
・個人情報保護委員会「漏えい等の対応とお役立ち資料」
・個人情報保護委員会「生成AIサービスの利用に関する注意喚起等について」
・IPA「セキュリティ担当者のための生成AIセキュリティ」（2026年7月31日）
・経済産業省「AI事業者ガイドライン 第1.2版」（2026年3月31日）

室崎 敬太　【Linkedin】【E-mail】
馬車馬テクノロジーズ　業務執行社員/Chief Strategy Officer
その他DX関連の顧問を複数社請け負わせていただいております。

17歳で学生起業家として活動を開始し、事業の立ち上げと運営を経験。その後、ファーストリテイリンググループに入社。 三井住友海上火災保険株式会社にて法人営業やリスクマネジメントに従事し、金融・保険分野における専門性を確立。 独立後は室﨑総合保険／MKエージェンシーを創業。不動産会社との業務提携を経て役員に就任。 コロナ渦以降にAIやDX、プログラミングを学び現在は企業のDXおよびAX戦略の立案から実行までをリード。AI・LLMを活用した業務改革や新規事業開発を中心に、複数の企業において顧問として参画している。 国内上場企業から外資系企業まで、繊維、小売、自動車、金融、不動産、建設、サービスなど多岐にわたる業界での実務経験を有し、業界横断的な知見と実行力を兼ね備えたDXに強みを持つ。