今日のAI失敗事例_「引用」は全部ウソだった。大手監査法人Deloitteが豪政府に返金した理由

2026年8月2日 19:38

はじめに

今回取り上げるのは、世界四大会計事務所の一つDeloitte(デロイト)が、オーストラリア政府向けに作成した公式報告書に、AIが作り出した「存在しない引用」が大量に紛れ込んでいた事例です。
専門家集団のチェックをすり抜け、最終的にDeloitteは政府へ一部返金する事態となりました。
この記事では何が起きたのか、なぜ一流の専門家でも見抜けなかったのか、そして自社の資料作成にAIを使う際に何を確認すべきかを解説します。

何が起きたのか

2024年12月、オーストラリア政府の雇用・労働関係省(DEWR)は、失業給付の受給者に対する罰則を自動判定するシステム「Targeted Compliance Framework」について、独立した監査をDeloitte Australiaに依頼しました。契約額は約44万豪ドル(当時のレートで約4億円弱)でした。
Deloitteは2025年7月、最終報告書を政府ウェブサイト上で公開しました。
ところがその後、シドニー大学の研究者クリス・ラッジ氏がこの報告書を読み込んだところ、実在しない学術論文や書籍への言及、さらには連邦裁判所の判決からの「引用」とされる一節が、実際にはどこにも存在しない捏造だったことに気づきます。
ラッジ氏は約20件もの疑わしい引用をリストアップし、報道機関に伝えました。2025年10月、The RegisterやFortuneなど複数の海外メディアが一斉にこの問題を報じました。

なぜ失敗したのか

報告書の一部を生成AI(Microsoft Azure上のOpenAI「GPT-4o」)を使って作成していたが、その事実を当初は発注元に開示していなかった
AIが作り出した架空の論文名・書籍名・判決引用が、担当者による校閲・事実確認の工程をすり抜けてしまった
「大手監査法人が作成した公式レポート」という肩書きへの信頼感が、かえって内容を疑わずに受け入れる空気を生んだ
発注元であるDEWR側にも、納品物の引用・出典を第三者的に検証する仕組みがなかった
AIの出力を「叩き台」ではなく、そのまま完成品に近い形で使ってしまうスピード優先の制作フローだった

企業はどう対応したのか

Deloitteは問題発覚後、報告書内の脚注・引用の一部が誤りだったことを認め、修正版の報告書を公開しました。
修正版には生成AIツール「Azure OpenAI」を執筆補助に利用したことが明記され、捏造されていた引用や判決の一節は削除されています。Deloitteは「レポートの結論や提言内容そのものに変更はない」とも説明しました。
金銭面では、契約金額のうち最終支払分にあたる約9万7000豪ドル(約630万円)をDEWRへ返金することで合意しています。
一方、豪州の上院議員バーバラ・ポコック氏は「全額を返金すべきだ」と一部返金では不十分との見解を示しており、議論は完全には収束していません。

この事例から学べること

「大手企業・専門家が作った資料だから正しい」という思い込みは、AI時代にはむしろ危険信号になり得る
AIは実在しそうな論文タイトルや人名、判決文の言い回しを、驚くほど自然に「捏造」できてしまう
生成AIを制作過程で使った場合、その事実を発注元や読者に開示するかどうかは、後から重大な信頼問題に発展しうる
公的機関や上場企業向けの報告書のような「重み」のある文書ほど、AI活用時のチェック体制を厚くする必要がある
問題発覚後の対応スピードと透明性(何が誤りで、どう直したかを明示すること)が、信頼回復を大きく左右する
一部返金という着地でも「全額返すべきだ」という声が出るように、金銭的な後始末だけでは信頼は完全には戻らない

今日から実践できる対策

AIに文章や資料を作らせた場合、引用・出典・固有名詞は必ず一次情報に当たって裏取りする
社外に出す資料でAIを利用した場合は、その事実を社内外に開示するルールをあらかじめ決めておく
「専門性の高い担当者が作った」資料であっても、第三者による事実確認(ファクトチェック)の工程を省略しない
契約書・発注書の段階で、AI利用の可否や開示義務についてあらかじめ取り決めておく
重要な報告書・提案書は、提出前に「AIが作った部分」と「人間が検証した部分」をチェックリストで区別する

まとめ

世界的な監査法人ですら、AIが作った架空の引用を見抜けずに公式報告書として提出してしまいました。原因は技術力ではなく、AI活用時のチェック体制と情報開示の欠如にありました。「専門家が作ったから大丈夫」という思い込みを捨て、AIを使った資料には必ず人の目による裏取りを挟むこと。この当たり前の一手間が、企業の信頼を守る最後の砦になります。