GoogleがGoogle Earthの画像AI機能を1日で撤回｜偽造地図が拡散する前に何が起きたか【note】
このニュースの概要
GoogleはGoogle Earthに新機能を追加した。AIによる画像生成ツール「Nano Banana 2」を使い、衛星写真の上にAIが生成した任意の画像を重ねて表示できるというものだ。Googleの説明では「地理をクリエイティブに楽しむため」の機能とされていた。
しかし公開から数時間も経たないうちに、ジャーナリストや研究者から批判が殺到した。BBCの記者はSNSに皮肉を込めた投稿をした。「Google Earthはジャーナリストや研究者にとって最も信頼できる視覚的証拠のひとつだが、この新しいAI画像生成機能が誤情報の拡散に悪用されることはまずないだろう」——もちろん逆説的な表現で、批判の意味だ。
Googleは翌日、この機能を撤回すると発表した。「地理空間の専門家が有益な目的でこの機能を活用しているのを確認した一方、生成された画像のスクリーンショットを共有し、ポリシーに違反しているとみられる事例も確認した」とし、「より強いガードレールを実装する間、機能を停止する」と述べた。リリースからわずか1日での撤回だった。
まるおの深掘り考察：もし自社に降ってきたら？
衛星写真というのは、これまで「改ざんが難しい証拠」として扱われてきた。報道機関が紛争地域の状況を確認するのに使い、企業が土地や施設の現状を把握するのに使い、自治体が災害状況を把握するのにも使う。「地図は嘘をつかない」という感覚は、多くの人の中に根強くある。
そこに今回の機能が刺さる。プロンプトを入力すれば、現実の地図の上に存在しない建物・施設・被害状況を重ねた画像が生成できる。生成された画像をスクリーンショットで切り取れば、見た目だけでは本物の衛星写真と区別がつかない可能性がある。Googleはこの問題に気づいていなかったのか、あるいは気づいていながら「クリエイティブ用途」として割り切ったのかは分からないが、結果として1日で撤回せざるを得なかった。
情シス目線で考えると、これは対岸の火事ではない。おそらく今後、同種の機能は別のサービスにも登場する。地図アプリ、不動産サービス、ドローン映像の管理ツール——衛星・航空写真を扱うサービスは無数にある。そのどれかにAI生成機能が乗ってきたとき、社内で「これ使えそう」と言い出す人間が必ず出てくる。
問題は、その時点で「この画像は本物か」を確認する仕組みが社内にあるかどうかだ。仮に取引先や社外から送られてきた地図画像を証拠として扱う業務があるなら、今のうちに「画像の出所を確認するフロー」を考えておく必要があるかもしれない。現時点では社内ルールも整備されていないだろうし、整備を求めたところで「そんな大げさな」と言われるのが目に見えている。だが今回のGoogleの件は、その「大げさ」が現実になった一例だ。
AI画像生成の問題はこれまでも「人の顔」「テキスト」「動画」と広がってきた。今回は「地図・衛星写真」がその対象に加わったということを、まず頭に入れておくべきだ。
まるおの深掘りファクトメモ
GoogleはAI画像生成ツール「Nano Banana 2」をGoogle Earthに統合し、プロンプトベースで任意の画像を衛星写真の上に重ねて生成できる機能を提供した
機能公開から1日以内に批判が集中し、Googleは「ポリシーに違反しているとみられる画像の共有事例を確認した」として機能を停止した
Googleは「より強いガードレールを実装する間、機能をロールバックする」と声明で述べており、完全廃止ではなく改修後の再提供を示唆している
Googleの声明によれば、地理空間の専門家による有益な利用事例も確認されており、機能自体の有用性は否定していない
