今日のAI失敗事例_公開48時間で露呈——AppleのAIが「BBCの名前」で流した嘘の速報

2026年9月7日 19:01

はじめに

ロック画面に届いた速報。発信元は「BBC」。あなたはその中身を疑いますか。
結論から言うと、その文面を書いていたのはBBCではありません。Appleの生成AIです。AIは、実際には起きていない出来事を、BBCの名前を付けたままiPhoneへ配信しました。
これは他人事ではありません。あなたの会社の告知も、すでに誰かのAIに要約され、別の意味で読まれている可能性があります。
この記事では、(1)なぜ大企業のAIが「他社の名前で嘘をついた」のか (2)AI要約に共通する弱点 (3)発信する側が今すべきこと、を解説します。

何が起きたのか

2024年12月11日、Appleは英国で「Apple Intelligence」の提供を始めました。目玉のひとつが、複数のアプリ通知をAIが1行にまとめる「通知の要約」機能です。
問題が起きたのは、提供開始からわずか2日後でした。
BBCニュースアプリの通知として、米医療保険大手のCEO殺害事件で逮捕された容疑者が「自ら銃で撃った」という趣旨の要約が表示されたのです。そのような事実はありません。調査報道機関ProPublicaの編集者がSNSで指摘し、BBCはAppleに正式に苦情を申し入れました。
誤りは1件では終わりません。11月21日には、ニューヨーク・タイムズの3本の記事が1つの通知にまとめられ、一部が「ネタニヤフ逮捕」と読める形で表示されました。
2024年12月19日、国境なき記者団(RSF)が機能の削除を要求します。RSFは「この生成AIツールは、48時間足らずで、一貫して信頼できる情報を生み出せないことを示した」と指摘しました(参照:CNN Business、RSF公式声明)。
年が明けても止まりません。2025年1月上旬、BBCのダーツ世界選手権の記事から、決勝の前に「リトラー選手が優勝した」という要約が生成されます。数時間後には、テニスのナダル選手が同性愛者だと公表したという誤要約まで配信されました。元記事は別のブラジル人選手の話でした(参照:CNBC、CNN.co.jp)。

なぜ失敗したのか

要約AIが、元の見出しにない「結末」を勝手に補った(自殺した、優勝した、逮捕された、など)
複数の通知を1行にまとめる設計のため、別々の記事の情報が混ざり合った
要約文が報道機関のアプリ名とアイコンの下に、本人の発信であるかのように並んでいた
速報という「訂正が最も効かない領域」に、検証工程のないAIをそのまま通した
AIが書いた文章だと利用者が見分ける手がかりが、当初はほとんどなかった

企業はどう対応したのか

Appleは2025年1月16日、iOS 18.3などのベータ版で、ニュース・エンタメ系アプリの通知要約を一時停止しました(参照:TechCrunch、CNBC)。
あわせて、AI要約はイタリック体で表示して通常の通知と区別する、ロック画面からアプリ単位で切れるようにする、有効化時にベータ機能だと伝える、といった変更も加えました。
ただし廃止はされていません。2025年7月のiOS 26のベータ版で要約が復活し、有効にする際に「要約は元の見出しの意味を変えることがある。情報を確認してほしい」という趣旨の警告が出る形になりました(参照:TechCrunch)。
Appleが選んだのは「精度を完璧にする」ではなく、「間違いうると伝えたうえで使ってもらう」という着地でした。

この事例から学べること

AIの失敗は「自社が導入したAI」だけでなく、「他社のAIが自社の情報を要約する」形でも起きる
要約は情報を短くする作業であると同時に、情報を書き換える作業でもある
発信元の名前が付いたまま誤情報が広がると、傷つく信用は引用された側のものになる
速報・災害・医療など、訂正が追いつかない領域ほど被害は大きい
「AIが書いた」と一目で分かる表示があるかは、使い勝手ではなく安全性の問題である
世界最大級の企業でも公開前の検証で防げず、外部の指摘で初めて誤りに気づくことがある

今日から実践できる対策

通知やメールの件名は「結論を先頭に、全角30字前後で完結」させ、途中で切られても意味が変わらない形にする
プレスリリースは公開前に生成AIへ貼って1行要約させ、意図と違う読み方をされないか確認する
社内でAI要約を回覧する際は、要約だけを転送せず、必ず元記事のURLを添える
金額・人数・日付・社名など訂正が必要になる情報は、必ず一次資料で確認するルールを明文化する
自社サービスにAI要約を載せるなら、AI生成の明示と、利用者が機能を切れる導線を最初から用意する
自社名でのエゴサーチをSNSだけでなく主要な生成AIにも行い、誤った説明が出ていないか月1回点検する

まとめ

AppleのAIは、BBCやニューヨーク・タイムズの名前を付けたまま、起きていない出来事を速報として配信しました。原因は悪意ではなく、「要約は意味を変えることがある」という性質を、速報という最も危険な場所に持ち込んだことです。AIが情報を短くする時代は、自社の発信が知らぬ間に書き換えられる時代でもあります。まずは自社の告知文が要約に耐えるか確認してみてください。