
その「上司からのビデオ通話」、本物だと言い切れますか?AIを使ったディープフェイク
ある企業の財務担当者のもとに、ビデオ会議の招待が届きました。画面には見慣れた顔。いつものCFOです。声も話し方も、いつも通り。会議の中で、極秘の買収案件のため至急送金してほしいという指示が下ります。
担当者は疑うことなく従いました。
送金額は日本円にしておよそ37億円。ところが後になっても本物のCFOからは何の連絡もない。改めて確認したところ、そんな会議に出た覚えはないという返事が返ってきました。
画面の向こうにいたのは、AIがつくった精巧なにせものでした。
僕はこの話を知ったとき、「自分なら引っかからない」ってちょっと思いました。でも読み進めるほど、その自信には根拠がないなって気づかされました。
✅️「見て、聞いて確かめる」が通用しなくなった
これまで僕らは、相手の顔を見て、声を聞いて、それが本人かどうかを判断してきました。対面でも、画面越しでも、この判断の仕方は長年ずっと信頼できるものでした。
でも冒頭の事件は、この判断の仕方そのものがもう安全とは言い切れないことを示してます。
犯行グループは、標的になった役員が対談番組に出演していた映像を事前に入手して、そこに映る顔と声をAIに学習させていたそうです。動画編集サービスを使えば、対象人物の映像を学習させるだけで数分で偽動画がつくれてしまう時代らしく、ある調査では企業の53パーセントが何らかの形でディープフェイク被害に遭遇したと回答しています。
「見た目と声で判断する」という、人類がずっと頼ってきた確認方法が、静かに、でも確実に効かなくなってきてるんですよね。
✅️あなたのSNSにも流れてきてるかもしれない
企業を狙った詐欺だけじゃありません。
SNSを眺めてると、見覚えのある経済アナリストや実業家が「この投資法で資産が倍になる」って真剣な顔で語りかけてくる広告を、見たことありませんか。
その顔も声も本人とは無関係な、AIによる偽物であることが、今、急速に広がってます。
警察庁の統計によれば、この手のSNS型投資詐欺は年々被害が拡大していて、直近の1年間だけで被害額は1200億円を超えたそうです。
しかも被害者だけじゃなく、無断で顔や名前を使われた著名人自身も、身に覚えのない抗議やクレームを受けて信用を傷つけられる。詐欺の実行犯以外に、なりすまされた本人まで二重に傷つく、いびつな構造がここにあります。
正直、この数字を見て「対岸の火事じゃないな」って背筋がちょっと伸びました(伸びるだけで対策はまだしてない、というのが正直なところです)。
✅️「疑うポイント」は映像じゃなくて文脈
じゃあ実際、どう見分ければいいのか。
専門家が繰り返し強調してるのは、映像や音声そのものの細部を疑う前に、「この状況自体が不自然じゃないか」という文脈への疑いを持つことの大切さです。
普段なら電話一本で済む用件を、なぜわざわざビデオ通話で伝えてくるのか。
なぜこんなに急いで、他の人に確認する余裕を与えない形で指示してくるのか。
ディープフェイクを使った詐欺の多くは、標的に冷静に考える時間を与えないよう、緊急性や秘密性を強調してくる傾向があるそうです。
この「急かされてる」という感覚こそ、最初に警戒すべきサインなんですよね。
映像自体にも、まばたきの不自然さとか、顔の輪郭と背景の境目のちらつきとか、気づける違和感が残ってることもあります。ただ、これはあくまで補助的な手がかりで、AI技術は日々進歩してるので、この見分け方だけに頼るのは危ういです。
一番確実なのは、画面の中の相手じゃなくて、別の手段で本人に確かめること。ビデオ通話で緊急の依頼を受けたら、いったん通話を切って、あらかじめ知ってる電話番号に自分からかけ直す。冒頭の事件と、似たような手口を未然に防げた別の事件との違いは、技術の精巧さの差じゃなくて、「その場で判断せず、いったん立ち止まって確認する行動を取れたかどうか」、ただそれだけだったそうです。
✅️中身に証拠を仕込むという発想
見た目や聞こえ方での判断にいずれ限界が来るなら、コンテンツの「中身」に、AIによってつくられたという事実をあらかじめ記録しておく。そういう発想の対策も進んでます。
人間の目には見えず耳にも聞こえない形でAI生成の痕跡を埋め込む電子透かしと、いつ、どのAIで、どう加工されたかを改ざんしにくい形で記録しておく来歴証明という考え方です。
ドイツのカメラメーカーは、シャッターを切った瞬間に撮影記録が暗号技術で刻み込まれるカメラをすでに発表していて、日本の主要カメラメーカーも追随してるそうです。
法律による後押しも動き出してます。
欧州連合は2026年8月、AI生成コンテンツへの表示を義務づける法律の適用を開始しました。違反すれば最大で売上の3パーセントという重い制裁金です。しかもこれ、EU域外の企業でも、EU向けにサービスを提供してれば対象になり得るらしく、「うちには関係ない」が一番危ういという話でした。
中国はすでに2025年からラベル表示を義務化していて、月間利用者数14億人規模のアプリが一斉に対応した一方、日本はまだ業界団体による自主的な指針が中心で、法律による一律の義務づけはありません。この差、結構大きいなと感じました。
✅️まとめ
技術的な見分け方も、透かしや来歴証明も、法律による規制も、それぞれ単独では完全な防御にはなりません。技術は進歩し続けるし、透かしはスクリーンショット一枚で消えることもあるし、法律は国境を越える犯罪者には及びにくい。
だからこそ、一つに頼りきらずに重ねていくしかないんだと思います。
個人レベルでできる一番地味で一番効くのが、「緊急性を強調されたら、まず疑う」「画面の中の相手じゃなく、別の手段で本人に確かめる」という、ただそれだけの習慣です。特別な知識も道具もいりません。
派手な最新技術を追いかけるより、この地味な習慣を家族や職場と共有しておくほうが、実際の被害を防ぐうえではるかに効くそうです。
僕も今日、家族との合言葉でも決めておこうかなと思いました。
「山!」「川!」(いつの時代やねん!!)
ペンネームを使ってKindle本を書いてます。もっと詳しく知りたい方はKindleで!
フォローして拡散に協力していただけると泣いて喜びます。
\ メンバーシップで応援 /
古民家宿計画、okaeriプロジェクトの進捗をメンバー限定で公開中。無料noteでは絶対書けない“裏側”まで全部話します。
「もっと深く知りたい」
「応援したい」
「意見をやアイデアをだしたい」
「一緒に作りたい!」
と思っていただけたなら是非。
メンバーシップ詳細はこちら
↓