メインコンテンツへスキップ
見出し画像

AIの委託先から漏えい、うちは大丈夫?|週間AIニュース 11/11〜11/17

    「AIの委託先から情報が漏れたと聞いたけど、うちが使っているサービスは大丈夫?」

    今週いちばん気になるのは、この点だと思います。管理部門の目線で、今週のAIニュースを5本整理しました。

    先に結論:今週は、AIを使う側の足元が問われた1週間でした。NotionとCursorの事故では、AIの処理を任されていた同じ委託先からデータが漏れ、「保存しない」という約束が守られていませんでした。契約書の確認だけで安心せず、再委託先まで含めてデータの行き先をつかんでおくことが大切です。

    動画では、解説のクロウ先生と聞き手のジュニが、5本のニュースを掛け合いで解説しています。


    1. AIの委託先で漏えいが相次ぐ、「保存しない」約束が守られず

    ジュニ「うちが使うサービスも危ないの?」
    クロウ先生「裏で動く委託先まで見ないと分からんぞ。『保存しない』約束も確かめたまえ。」

    ✅ 今週何があった

    メモや文書を管理するサービスのNotionは今週、AIの処理を任せていた外部の会社、Fireworks AIで起きた事故についてお知らせを出しました。Notionによると、データを保存しないという契約上の約束があったのに、Fireworks側にAIチャットの記録が残っていました。影響はワークスペースの1%未満で、詳しい件数は分かっていません。

    AIでプログラムを書くツールのCursorも、現地11月13日付で事故の調査結果を出しました。同社によると、Fireworksに渡していた鍵が漏れ、作業記録がコピーされました。記録に残っていたパスワードなどで、いくつかのクラウドサービスにも入られたとされます。

    国内では理化学研究所が11月16日、スパコン「富岳」とAI研究用の「理究」に不正アクセスがあったと発表しました。公開していた稼働状況のページを足がかりに侵入され、最大4,597人分の氏名や鍵などが流出した可能性があります。運用の保守は外部に委託しており、役割分担を見直して再開する方針です。

    ▶ 解説
    委託先が約束を守っているかは、契約書だけでは分かりません。直接契約していない会社でも、使っているサービスの裏で動いていれば、そこからデータが漏れることがあります。

    確認しておきたいこと
    □ 使っているサービスのAI機能の再委託先と、データを保存しない約束の有無(情シス・法務)
    □ パスワード・鍵・個人情報など、AIに貼ってはいけない情報の社内規程(総務・情シス)
    □ 委託先から事故の連絡が来たときの、調査と対外説明の担当(法務・総務)


    2. 契約中のAIの中身が変わる、Copilotの既定設定と大規模障害

    ジュニ「設定を触らないと、AIが勝手に変わるの?」
    クロウ先生「英国では12月9日から、Claudeが既定で有効になる。管理画面を見たまえ。」

    ✅ 今週何があった

    The Next Webによると、Microsoftは英国のMicrosoft 365 Copilotで、AnthropicのAI「Claude」を12月9日から既定で有効にします。管理者が何も選ばなければ使える状態になり、無効にすることもできます。Anthropicは再委託先にあたり、データは米国で処理されます。

    Microsoftの文書では、ClaudeはEUの域内でデータを処理する約束の対象外とされています。日本の契約での扱いは、確認できていません。

    同じ週、Microsoft 365では現地11月12日に大規模な障害が起き、Outlook、Teams、SharePoint、Copilotなどが影響を受けました。13日にかけて復旧が進み、攻撃の兆候は見つかっていないと報じられています。原因の詳しい説明は、確認できた範囲では出ていません。

    ▶ 解説
    同じサービスの中でも、裏で動くAIの会社やデータの処理場所が、設定しだいで変わります。英国の話ですが、日本の会社も自社の管理画面で確かめておくのが確実です。メールやAIが同じ基盤に乗っているので、障害時の備えも合わせて見ておきます。

    確認しておきたいこと
    □ 管理画面で他社のAIモデルが有効になっていないかと、データの処理場所(情シス)
    □ 使えるAIが追加・変更されたときの承認者(情シス・総務)
    □ クラウドが止まったときの代わりの手順(総務・情シス)


    3. 米国がAIチップ規制を拡大、海外のデータセンターも対象に

    ジュニ「日本の会社にも関係あるの?」
    クロウ先生「日本は対象国ではない。だが、使うクラウドの先までは確かめておくべきだぞ。」

    ✅ 今週何があった

    米国商務省の産業安全保障局は現地11月16日、中国などの企業が、海外のデータセンターにある米国製の先端AIチップを遠隔で使うことを防ぐ規則を公表しました。懸念国の企業に一定以上の計算能力を提供するデータセンターへの輸出には、米国政府の許可が要ります。すでに提供しているデータセンターも、90日以内に許可を取る必要があります。

    シンガポール、マレーシア、インドネシア、タイ、ブラジルの5か国への輸出も、原則として許可制になりました。日本は、この5か国に入っていません。規則は官報への掲載と同時に発効し、60日間の意見募集が行われます。

    週の前半には、米国が購入を認めた中国企業2社の事務所に人がいなかったと、ニューヨーク・タイムズが報じました。また、日本を含む同盟国は、AIの供給網を守る共同のリストを作ることで合意したと伝えられています。ただし、リストはまだ公表されておらず、法的な拘束力もないとされます。

    ▶ 解説
    輸出規制は、チップを売り買いする会社だけの話ではなくなってきました。使っているクラウドや委託先が、規制の対象国の企業とつながっていれば、影響が出ることがあります。

    確認しておきたいこと
    □ 使っているクラウド・データセンターの拠点の国(情シス)
    □ 輸出管理の法令を守る条項と、違反時の解除の条項(法務)
    □ 官報掲載後の正式な日付と運用の細則を追う担当(法務・経営企画)


    4. NVIDIAはトップ交代、Anthropicは上場へ、取引先が動く

    ジュニ「トップが替わると、チップが届かなくなるの?」
    クロウ先生「供給が止まるという発表はない。憶測で動かず、契約を見直したまえ。」

    ✅ 今週何があった

    AI向け半導体の最大手NVIDIAは現地11月12日、創業者のジェンスン・フアン氏が、CEOと取締役を即日で退任したと発表しました。暫定CEOには最高財務責任者のコレット・クレス氏が就き、退任の理由は発表文に書かれていません。ロイターによると、株価は時間外取引で約10%下がりました。

    AI開発のAnthropicは現地11月10日、上場に向けた投資家向けの説明会を始めました。売り出すのは8億2,500万株で、想定価格は1株70〜78ドルです。Google、NVIDIA、Microsoftなど7社が、合わせて260億ドル分の株を上場価格で買うことにも合意しました。

    CNBCは、11月19日の取引開始を目指すと伝えていますが、会社は日付を公表していません。前回の週間まとめでは、投資家が11月中の上場を疑問視しているという報道を取り上げましたが、今週は大きく進んだ形です。

    ▶ 解説
    AIの提供会社や部品の供給元は、自社の業務を支える取引先です。上場すれば決算などの資料を評価に使える一方、経営や資本の変化が料金や方針に響くこともあります。

    確認しておきたいこと
    □ どの業務がどの会社のAI・クラウドに頼っているかの一覧(情シス・経営企画)
    □ 料金改定・サービス終了・経営権の変更があったときの契約条項(法務・購買)
    □ 役員や社員がAI企業の株を売買するときの、インサイダー取引防止規程での扱い(法務)


    5. AIが支払いまでする時代へ、ChatGPTの決済機能と制限の動き

    ジュニ「AIが勝手に買い物しちゃうの?」
    クロウ先生「買う前に本人が承認する仕組みだ。会社のカードの扱いは決めておきたまえ。」

    ✅ 今週何があった

    OpenAIは現地11月13日、ChatGPTで支払いまでできる「ChatGPT Wallet」の提供を始めました。対象は米国の上位プランの一部の利用者で、カード番号はAIにも店にも見えない仕組みです。購入前に、利用者が商品と金額を確かめ、顔認証や指紋で承認します。

    同じ日、AIの新興企業Sierraは、個人のAIが企業のサイトとやり取りするための共通の決まり「Poppy」を公開し、Shopifyの全加盟店で有効になりました。一方、米ユナイテッド航空は11月11日、許可のない外部のAIによる航空券の予約を制限すると明らかにしました。ログイン情報をAIに渡す危険などを理由に挙げています。

    ▶ 解説
    社員が使うAIに、お金を使う力を持たせる仕組みが動き出しました。今回は米国の個人向けで、日本の法人での条件は分かっていません。ただ、個人のカードで手配してあとで精算する場面は考えられます。

    確認しておきたいこと
    □ AIツールに法人カードを登録してよいかのルール(経理・総務)
    □ AI経由で買った物の領収書と購入履歴の突き合わせ方(経理)
    □ 自社サイトで外部のAIからの操作をどこまで認めるか(法務)


    今週のポイント

    1. 委託先の「保存しない」という約束は、契約書だけでは守られているか分かりません。再委託先まで含めて、データの行き先と事故時の連絡体制を確かめておきましょう。
    2. 契約しているAIの中身や処理場所、輸出規制の範囲は、利用者の知らない所で変わります。管理画面の設定、クラウドの拠点、契約の条項を定期的に見直しましょう。
    3. AIの取引先は、経営や資本の面でも大きく動いています。どの業務がどの会社に頼っているかを一覧にし、変化があったときの報告の流れを決めておきましょう。


    ひとこと

    「保存しない」と契約に書いてあっても、守られているかは別の話だと感じました。まずは、使っているサービスのAI機能の再委託先を一覧にするところから始めます。


    あわせて読みたい


    • 委託先の事故(Cursor)とNVIDIAのCEO退任の回:NVIDIAのCEOが退任、Microsoft障害の復旧ほか|AIニュース11/15 https://note.com/oshiete_kurou/n/ned4af7cd8dd2

    • 前回の週間まとめ:【記事URLを貼る】

    • このnoteについて:はじめに|「先生、それって会社に関係ありますか?」に答えるnoteです https://note.com/oshiete_kurou/n/n8d357941faf2


    出典


    ※この記事は11月18日朝時点の情報です。AIで下書きを作り、内容を確認してから公開しています。誤りに気づいた場合は、わかりしだい訂正します。

    木曜から火曜は毎日のAIニュース、水曜は1週間のまとめをお届けします。フォローしていただけると励みになります。

    この記事はnoteマネーにピックアップされました

    noteマネー 今週の特集「AI株を占うエヌビディア決算」
     
     
    『AI News|おしえてクロウ先生』の中の人は、管理部門で働く会社員。解説役のフクロウ・クロウ先生と弟子のハムスター・ジュニが、世界と日本のAIニュースを実務目線で解説。木〜月曜は毎日、毎週水曜は動画付きの週間まとめ。AIも使いつつ、出典等最終の確認は人の手で。

    あなたへのおすすめ