メインコンテンツへスキップ
見出し画像

そのAI利用、会社は把握していますか?|社員が勝手に機密情報を送る「シャドーAI」の脅威と対策

    はじめに

    「この資料、ChatGPTに要約させよう」
    「ソースコードのエラーが分からないから、AIに貼り付けて聞いてみよう」
    「顧客情報をまとめてAIに分析してもらえば、仕事が早く終わる」

    どれも便利な生成AIの使い方に思えます。しかし、その資料に社外秘の情報や顧客の個人情報が含まれていたら、どうなるでしょうか?さらに問題なのは、従業員が会社の許可を得ずに、個人で契約した生成AIサービスを業務に利用しているケースです。

    こうした行為は「シャドーAI(Shadow AI)」と呼ばれ、企業の新たな情報セキュリティリスクとして注目されています。IPAが2026年1月に公表した「情報セキュリティ10大脅威2026」では、組織編の第3位に「AIの利用をめぐるサイバーリスク」が初めてランクインしました。

    生成AIの利用は、もはや単なる業務効率化の話ではありません。企業が管理できない場所で重要情報が扱われるという、情報セキュリティ上の問題でもあるのです。この記事では、応用情報技術者試験・情報処理安全確保支援士試験・高度情報処理技術者試験の対策として、以下を分かりやすく解説します。

    • シャドーAIとは何か、なぜ危険なのか

    • 生成AIを通じて情報漏えいが起こる仕組み

    • 実際に起こり得る情報漏えいのケース

    • 企業が実施すべき7つのセキュリティ対策

    • IPA試験で押さえたい重要用語と解答の定石


    1. シャドーAIとは?社員が知らないうちに会社の情報を外部に送っているかも

    シャドーAIとは

    シャドーAI(Shadow AI)とは、企業の承認や管理を受けずに、従業員が業務でAIサービスを利用することです。

    例えば、会社から利用許可を得ていないにもかかわらず、個人アカウントのChatGPTやその他の生成AIサービスに業務データを入力するといった行為が該当します。

    従業員本人には悪意がないことも少なくありません。「仕事を効率化したい」「顧客への回答を早く作りたい」といった、むしろ前向きな動機で行われることもあります。問題は、その利用を会社の情報システム部門やセキュリティ担当者が把握・管理できないことにあります。

    シャドーITとの違い

    シャドーAIは、「シャドーIT」の一種です。

    • シャドーIT:会社の承認を受けていないクラウドサービス、アプリケーション、端末などを業務に利用すること。

    • シャドーAI:会社の承認を受けていないAIサービスやAI機能を業務に利用すること。

    シャドーITでは、個人契約のクラウドストレージやチャットツールなどが典型例でした。シャドーAIでは、それに加えて入力した業務データがAIサービス側で処理・保存・再利用され得るという点に注意が必要です。

    なぜシャドーAIが広がるのか

    主な背景として、次のような要因が挙げられます。

    1. 個人でも高性能な生成AIを手軽に利用できる。

    2. 文章作成、翻訳、要約、プログラミングなど幅広い業務で効果がある。

    3. 会社がAIサービスの利用ルールを整備できていない。

    4. 会社公認のAIツールがない、あるいは使い勝手が悪い。

    5. 従業員が情報漏えいリスクを十分に理解していない。

    特に注意したいのが、会社が生成AIを禁止していても、それだけで利用実態を把握できるとは限らないという点です。利用ルールの整備と、従業員が安全に利用できる環境づくりの両方が重要になります。


    2. なぜ生成AIで情報漏えいが起こるのか?

    ① 機密情報をプロンプトに入力してしまう

    最も分かりやすい例が、機密情報を含む資料やソースコードなどを、そのまま生成AIサービスに入力してしまうケースです。

    例えば、次のような情報が考えられます。

    • 顧客の氏名、メールアドレス、住所などの個人情報

    • 取引先との契約内容や価格情報

    • 未発表製品の仕様書や開発計画

    • 社内システムのソースコード

    • システム構成図や脆弱性に関する内部情報

    • 売上予測、経営戦略、買収計画などの機密情報

    • APIキー、認証情報、パスワードなどの秘密情報

    こうした情報を外部の生成AIサービスへ送信すると、企業の管理範囲外で取り扱われることになります。重要なのは、AIに入力した時点で、入力情報が外部サービスに送信される場合があるということです。

    ただし、外部サービスに送信されたことが、直ちに不特定多数への公開や、法律上の情報漏えい事故を意味するわけではありません。実際のリスクは、契約条件、サービスの設定、入力情報の性質、企業の管理規程などによって異なります。

    ② 入力した情報が学習などに利用される可能性がある

    生成AIサービスでは、利用プランや設定、契約条件などによって、入力情報の取り扱いが異なります。入力した情報がモデル改善や学習などに利用されるサービスもあれば、企業向け契約などによって学習利用が制限されているサービスもあります。

    個人情報保護委員会も、2023年6月に公表した注意喚起で、生成AIサービスに個人データを含むプロンプトを入力する場合の留意点を示しています。特に、入力された個人データが応答の生成以外の目的で取り扱われる場合には、個人情報保護法上の問題が生じる可能性があります。

    「入力データが学習に利用されるのか」を確認することは、生成AIの安全な業務利用における重要なポイントです。

    なお、入力内容が学習に使われることと、入力情報がそのまま第三者に表示されることは同義ではありません。また、学習への利用を無効にしても、保存期間、運用担当者によるアクセス、外部連携など、別のリスクまで自動的に解消されるわけではありません。

    ③ AIの外部連携やアクセス権限が情報流出につながる

    近年は、生成AIが単に文章を作成するだけでなく、社内ファイルの検索や外部サービスとの連携などを行うケースも増えています。

    例えば、AIエージェントに社内データへのアクセス権限を与えた場合、設定不備や悪意ある入力などによって、意図しない情報アクセスや外部送信が発生する可能性があります。

    ここで関連するのが、プロンプトインジェクションです。これは、AIが読み込む文書やWebページなどに悪意ある指示を紛れ込ませ、AIに本来意図しない動作をさせようとする攻撃です。例えば、社内文書を参照できるAIが、外部文書に含まれる不正な指示を信頼してしまい、権限の範囲内で機密情報を外部送信しようとするケースが考えられます。

    この問題はシャドーAIだけでなく、会社が正式に導入したAIシステムでも発生し得ます。したがって、生成AIを正式に導入する場合でも、アクセス制御や外部連携の制限が必要です。


    3. こんな使い方が危ない!情報漏えいにつながる典型ケース5選

    ケース1:社内会議の議事録をAIに要約させる

    社員が議事録を個人の生成AIに貼り付け、要約を依頼した。
    議事録には未発表の製品計画や取引先の情報が含まれていた。

    問題点: 機密情報を外部の未承認サービスに送信している。
    対策: 会社が承認した環境を使用し、機密性に応じて入力の可否を判断する。

    ケース2:顧客一覧をAIに分析させる

    営業担当者が顧客一覧を生成AIにアップロードし、購買傾向を分析させた。一覧には氏名、メールアドレス、購入履歴などが含まれていた。

    問題点: 個人データの外部提供・利用目的・委託先管理などの観点で問題が生じる可能性がある。
    対策: 個人情報を含むデータの入力を原則として制限し、必要な場合は適法性と利用条件を確認する。利用目的に応じて匿名化や適切な加工を検討する。

    ケース3:ソースコードをAIに貼り付ける

    エンジニアが社内システムの不具合を調査するため、ソースコードを外部の生成AIへ入力した。コードには内部APIの仕様や認証に関する情報が含まれていた。

    問題点: 技術情報や秘密情報の外部送信につながる。
    対策: 承認された開発支援AIを利用する。秘密情報を除去し、必要最小限のコードやダミーデータを使う。

    ケース4:AIのブラウザー拡張機能を勝手に導入する

    社員が便利なAI拡張機能をブラウザーに追加した。
    拡張機能には、表示中のWebページを読み取る権限が付与されていた。

    問題点: サービスの機能や権限設定によっては、社内業務システムの表示内容などが外部に送信される可能性がある。
    対策: 拡張機能の導入を承認制とし、不要なアクセス権限を与えない。

    ケース5:AIエージェントに過大な権限を与える

    業務効率化のため、AIエージェントに社内文書の参照やメール送信の権限を付与した。しかし、外部文書に含まれていた不正な指示によって、想定外の操作が実行されるリスクが生じた。

    問題点: 過大な権限とプロンプトインジェクションの組み合わせによる情報流出リスク。
    対策: 最小権限の原則を適用し、機密情報の送信など重要な操作には人間の承認を必要とする。


    4. シャドーAIの情報漏えい対策|企業が取り組むべき7つの定石

    ここからは、IPA試験対策としても重要な、企業側のセキュリティ対策を整理します。

    対策①:AIサービスの利用ルールを明確にする

    まず、会社として生成AIの利用方針を定めます。
    具体的には以下を明確にします。

    • 利用を許可するAIサービス

    • 個人アカウントの業務利用の可否

    • 入力してよい情報、入力してはいけない情報

    • 利用申請・承認の手続き

    • 違反や事故が発生した場合の報告先

    「どのAIを、どの業務で、どの情報に対して利用してよいのか」を具体的に定めることが重要です。

    対策②:機密情報の分類と入力制限を行う

    すべての情報を同じように扱うのではなく、機密性に応じて取り扱いを分けます。例えば、次のような分類が考えられます。

    • 公開情報:公開済みの製品情報、一般的な技術情報など

    • 社内限定情報:社内業務マニュアル、内部向け資料など

    • 機密情報:顧客情報、非公開の設計書、経営情報など

    • 厳格管理情報:認証情報、秘密鍵、特に機密性の高い個人データなど

    公開情報であっても利用規約や著作権などへの配慮は必要ですが、機密性の高い情報ほど入力制限を厳しくします。

    対策③:会社が承認したAI利用環境を整備する

    禁止するだけでは、従業員が個人アカウントを利用し続ける可能性があります。そのため、会社が安全性を確認したAIサービスを提供し、正規の利用手段を確保することが重要です。

    選定時には、以下を確認します。

    • 入力情報の学習利用に関する契約・設定

    • データの保存期間と削除条件

    • 外部委託先やデータ処理場所

    • アクセス権限とログ管理

    • 管理者による利用制御機能

    業務で使える承認済みAIを提供することは、シャドーAIの発生を抑える有力な対策です。

    対策④:DLPやCASBによって情報の持ち出しを監視・制御する

    情報漏えい対策では、技術的な制御も重要です。
    代表的な技術として、次の2つを押さえておきましょう。

    DLP(Data Loss Prevention)
    機密情報の外部持ち出しを検知・制御する仕組みです。例えば、個人情報や機密文書などが外部サービスにアップロードされるのを検知したり、ポリシーに応じて送信を遮断したりします。

    CASB(Cloud Access Security Broker)
    クラウドサービスの利用状況を可視化し、組織のセキュリティポリシーに基づいてアクセスや情報の取り扱いを制御する仕組みです。例えば、会社が許可していないAIサービスへのアクセスを把握したり、特定のクラウドサービスへのファイルアップロードを制限したりする用途があります。

    両者の違いは次のように理解しましょう。

    • DLP:何の情報が外部へ持ち出されるかに注目する。

    • CASB:どのクラウドサービスが、どのように利用されているかに注目する。

    実際の製品では機能が重複することもあります。なお、暗号化された通信や個人端末での利用など、環境によって監視・制御できる範囲には限界があります。

    対策⑤:アクセス権限を最小限にする

    生成AIと社内システムを連携させる場合、AIに必要以上の権限を付与しないことが重要です。これを最小権限の原則(Least Privilege)と呼びます。

    具体的には、必要なファイルだけ参照可能にする、書き込みや削除権限を制限する、外部送信には承認を必要とする、といった対策が考えられます。AIエージェントなどが自動的に操作を行う環境では、特に重要な考え方です。

    対策⑥:従業員へのセキュリティ教育を実施する

    技術的な対策だけでは、すべての情報漏えいを防げません。従業員が生成AI利用時のリスクを理解することが必要です。

    特に、次の点を周知します。

    • 便利だからといって、何でも入力してよいわけではない。

    • 個人アカウントでの業務利用は会社の承認が必要となる場合がある。

    • ソースコードや顧客情報にも機密性がある。

    • 学習利用を無効にするだけで、すべてのリスクがなくなるわけではない。

    • 不適切な入力をした場合は、速やかに報告する。

    単なる利用禁止の周知よりも、具体的な利用例を示す教育が有効です。

    対策⑦:利用状況の把握とインシデント対応体制を整備する

    最後に、事故が起きた場合の対応も準備しておきます。例えば、機密情報を未承認のAIサービスに入力したことが判明した場合、次のように対応します。

    1. 利用者から速やかに報告を受ける。

    2. 入力した情報の内容と機密性を確認する。

    3. 利用サービス、アカウント、送信日時、保存・学習設定などを調査する。

    4. 削除依頼や利用停止など、可能な被害拡大防止措置を実施する。

    5. 法令上の報告・本人通知の要否や、取引先への連絡の必要性を判断する。

    6. 原因を分析して、利用ルールと技術的対策を見直す。

    ここで重要なのは、事故を隠さず、早期に報告・調査できる仕組みを整えることです。


    5. IPA試験対策|シャドーAIに関連する重要用語

    応用情報や高度情報の試験対策では、シャドーAIだけを単独で覚えるのではなく、関連するセキュリティ技術や管理手法と結び付けて理解しておくと効果的です。

    押さえておきたい重要用語10選

    ① シャドーAI
    企業の承認や管理を受けずにAIサービスを業務利用すること。

    ② シャドーIT
    企業の承認や管理を受けていないITサービス・端末などを業務に利用すること。

    ③ DLP
    機密情報の外部持ち出しを検知・制御する技術。

    ④ CASB
    クラウドサービスの利用状況の可視化とセキュリティ制御を行う仕組み。

    ⑤ AIガバナンス
    AIの利用に伴うリスクを適切に管理するための組織的な方針、責任体制、ルール、評価・監視などの仕組み。

    ⑥ プロンプトインジェクション
    AIに対する悪意ある指示の注入によって、本来意図しない動作を誘発する攻撃。

    ⑦ 最小権限の原則
    利用者やシステムに必要最小限のアクセス権限のみを付与する考え方。

    ⑧ アクセス制御
    情報資産にアクセスできる利用者や操作を制限する仕組み。

    ⑨ データマスキング
    データの一部を伏せたり置換したりして、秘密情報や個人情報の露出を抑える技術。

    ⑩ インシデントレスポンス
    情報セキュリティ事故の検知、分析、封じ込め、復旧、再発防止などを行う対応活動。


    6. 科目B・記述式問題で使える解答の定石

    最後に、今回のテーマをIPAの記述式問題に当てはめて考えてみましょう。以下は実際の過去問ではなく、学習用のオリジナル例題です。

    例題①:未承認AIの利用リスク

    設問

    A社では、従業員が個人アカウントの生成AIサービスを業務で利用していた。これにより発生する情報セキュリティ上のリスクを答えよ。

    解答例

    社内の機密情報が会社の管理外にある生成AIサービスに送信され、意図しない情報漏えいにつながるリスク。

    解答のポイント

    「未承認のAIを利用している」という事実だけでなく、何が問題なのかを説明する必要があります。会社の管理外に情報が送信されることと、その結果として起こり得る問題を結び付けましょう。

    例題②:シャドーAIの抑止策

    設問

    従業員による未承認の生成AIサービスの利用を抑止するため、A社が実施すべき対策を答えよ。

    解答例

    利用可能なAIサービスと入力可能な情報を定めた規程を整備し、承認済みAI環境を提供するとともに利用状況を監視する。

    解答のポイント

    「AIの利用を禁止する」だけでは不十分な場合があります。利用ルールの整備、正規の利用環境の提供、技術的な監視・制御を組み合わせることが重要です。

    例題③:機密情報の持ち出し防止

    設問

    生成AIサービスへの機密情報のアップロードを防止するために導入すべき技術的対策を答えよ。

    解答例

    DLPによって機密情報の外部送信を検知・制御し、CASBなどを用いて未承認のクラウドサービスの利用を把握・制限する。

    解答のポイント

    「何を防ぐために、どのような仕組みを用いるのか」を具体的に答えることが重要です。問題文がサービスの利用状況を問うているのか、情報の持ち出しを問うているのかによって、適切な技術を選びましょう。


    7. まとめ|生成AIのリスクは「便利さ」の裏側にある

    生成AIは、使い方によっては大幅な業務効率化につながる便利な技術です。しかし、従業員が自由に生成AIを利用できる状況では、会社が把握していない場所で機密情報が処理されるリスクがあります。

    特に覚えておきたいのは、次の3点です。

    ① シャドーAIは、企業が管理していないAIサービスを業務利用すること。
    ② 生成AIへの機密情報の入力は、社外への情報送信や意図しない情報の取り扱いにつながる可能性がある。
    ③ 対策は、利用ルールの整備・承認済み環境の提供・技術的制御・従業員教育を組み合わせること。

    IPA試験では、セキュリティ技術の名称を暗記するだけでなく、「どのようなリスクに対して、なぜその対策が必要なのか」を説明できるようにしておくことが重要です。生成AIを安全に活用するためには、利用を一律に禁止するのではなく、リスクに応じて適切に管理するという考え方が欠かせません。


    関連記事

    参考資料


     
     
    IT資格の勉強法・合格ノウハウを発信。 書籍では追いにくい最新技術や最新動向まで。 試験対策だけでなく実務にも活きる知識をお届け。 【保有資格】 ・IPA:FE、AP、SC ・DB:OracleDB-Gold、OSSDB-Gold ・Cloud:AWS-SAP、OCI-AP

    あなたへのおすすめ