ディープフェイクとは？｜本物そっくりの顔・声・動画にだまされないために｜AllA フェイクニュース⑬
こんしは！
AllA / オールアトリエ講師の、オール・ドメディア / Owl Dmediaです。
全22講義を通して、情報をうのみにせず、自分で確かめて考える力を育てる、フェイクニュースコース「種」。
今回も一緒に学ぶ生徒は、
（4×2＝8）四国マカフパ / Siniha Sikoku Makafupaです。
前回の講義では、AIが作るフェイクニュースについて学びました。
AIは、
文章を作る
画像を作る
声を再現する
動画を作る
情報を整理する
など、さまざまな場面で役立つ便利な技術です。
その一方で、使い方によっては、
存在しないニュース
偽の写真
なりすまし音声
大量の偽レビュー
本物そっくりの投稿
を作るために使われることもあります。
そこで大切だったのが、
「AIだから信じる」でも、「AIだから否定する」でもなく、根拠を確かめる
という考え方でした。
そして今回学ぶのは、AIを使った偽情報の中でも、特に本物と見分けにくいものです。
今回のテーマは、講義13。
「ディープフェイクとは？」
です。
本人が話していないのに、話しているように見える動画。
本人からの連絡ではないのに、本物の声に聞こえる音声。
実際には起きていない出来事を、本当に撮影したように見せる映像。
こうした情報に出会ったとき、私たちは何を確認すればよいのでしょうか。
四国マカフパと一緒に、ディープフェイクの基本と向き合い方を学んでいきましょう。
本人が話している動画なら、本物じゃないの？
四国マカフパ
「オール先生！ 有名人が、とんでもない発言をしたみたいです！」
オール・ドメディア
「どんな発言だったの？」
四国マカフパ
「動画の中で、『今まで話していたことは全部うそでした』と言っています！」
オール・ドメディア
「その動画は、どこで公開されていたの？」
四国マカフパ
「知らない人のSNSです。でも、顔も声も本人ですよ！」
オール・ドメディア
「本人の公式アカウントや、元の動画は確認した？」
四国マカフパ
「していません。でも、口の動きも合っています！」
オール・ドメディア
「それでも、本物とは限らないんだ」
四国マカフパ
「えっ？ 本人の顔で、本人の声なのにですか？」
オール・ドメディア
「AIや映像編集を使うと、本人が話していない内容を、話したように見せられることがあるんだよ」
四国マカフパ
「そこまで本物そっくりにできるんですか……？」
オール・ドメディア
「できる場合がある。そうした技術を使った偽の映像や音声が、ディープフェイクと呼ばれているんだ」
動画がある。
顔が本人に見える。
声も似ている。
口の動きも合っている。
それでも、本人が実際に話したとは限りません。
これからの情報社会では、
「映像があるから本当」
という考え方だけでは、自分を守れないことがあります。
ディープフェイクとは？
ディープフェイクとは、AIなどの技術を使って、人物の顔や声、動きなどを合成し、本物のように見える偽の画像・音声・動画を作る技術や、その制作物のことです。
例えば、
別の人物の顔を映像へ重ねる
本人に似た声で文章を読み上げる
口の動きを音声に合わせる
実際にはしていない表情や動きを作る
存在しない場面を映像として作る
といったことができます。
四国マカフパ
「顔を入れ替えた動画だけが、ディープフェイクなんですか？」
オール・ドメディア
「顔だけとは限らないよ。声や口の動き、体の動き、場面全体が作られることもあるんだ」
ディープフェイクには、動画だけでなく、音声や画像も含めて語られることがあります。
共通しているのは、
本人が実際には行っていないことを、本当に行ったように見せられる
という点です。
ディープフェイク技術そのものが悪いわけではない
ディープフェイクと聞くと、危険なものだけを想像するかもしれません。
しかし、似た技術は、良い目的にも使われています。
例えば、
映画や映像作品の特殊表現
キャラクターの表情づくり
音声を失った人を支援する技術
歴史や文化を学ぶための映像
翻訳した音声に口の動きを合わせる技術
創作やエンターテインメント
などです。
四国マカフパ
「技術そのものが悪いのではなく、使い方が問題なんですね」
オール・ドメディア
「そう。AI画像やAI文章と同じで、何のために、どのように使うかが大切なんだ」
創作として作られ、AIや合成を使っていると分かる形で公開されているなら、見る人も作品として楽しめます。
問題になるのは、
本物の映像だと誤解させる
本人の許可なく使う
誰かをだましたり傷つけたりする
お金や個人情報を奪うために使う
社会を混乱させるために広める
といった使い方です。
ディープフェイクで作られるもの
ディープフェイクには、いくつかの代表的な形があります。
1．顔を入れ替えた動画
映像に登場する人物の顔を、別の人物の顔へ置き換えます。
見る人には、本人がその場にいたように見えることがあります。
しかし、実際には別の人が演じていたり、もともと違う映像だったりする可能性があります。
四国マカフパ
「顔が本人なら、その人の行動だと思ってしまいます」
オール・ドメディア
「だから、本人の評判を傷つける偽動画にも使われる危険があるんだ」
2．本人に似せた音声
短い音声や過去の動画などをもとに、本人に似た声を作る技術があります。
その声を使って、本人が言っていない言葉を読み上げさせることもあります。
例えば、
家族を名乗って送金を頼む
上司を名乗って指示を出す
有名人を名乗って商品を紹介する
本人の発言のような音声を公開する
といった使い方です。
四国マカフパ
「電話で聞いたら、本人だと思ってしまいそうです」
オール・ドメディア
「声だけで相手を確認することが、難しくなる場合もあるんだ」
3．口の動きを変えた動画
元の動画の顔や背景をそのまま使いながら、口の動きだけを別の音声に合わせることがあります。
すると、本人が別の言葉を話したように見えます。
元の映像が本物であるため、全体として非常に自然に感じる可能性があります。
4．表情や動きを作った映像
写真一枚から、まばたきや笑顔、顔の向きなどを作ることもできます。
そのため、静止画だった人物が動いたり、話したりしているように見える場合があります。
5．存在しない人物や場面
実在する人物の顔を使わず、最初から存在しない人物や場所、出来事を作ることもできます。
この場合、
「この人物を検索しても情報が見つからない」
「この出来事を伝えるほかの情報がない」
ということが起こります。
四国マカフパ
「本人の偽物だけではなく、そもそも存在しない人も作れるんですね」
オール・ドメディア
「そう。だから“この人は誰か”という確認も必要になるんだ」
なぜディープフェイクは信じやすいの？
ディープフェイクが危険なのは、単に映像がきれいだからではありません。
私たちが、顔や声を本人確認の手がかりとして使っているからです。
家族の顔。
友達の声。
有名人の話し方。
見慣れた人物が画面に登場すると、内容を確認する前に、
「本人が言っている」
と感じやすくなります。
四国マカフパ
「文章よりも、本人が直接話している動画の方を信じてしまいそうです」
オール・ドメディア
「そう。映像や音声は、本人がそこにいるような感覚を与えるからね」
さらに、ディープフェイクは、
強い怒りを感じさせる発言
驚くような告白
緊急の連絡
お金に関する指示
社会を混乱させる内容
と組み合わせて使われることがあります。
感情が大きく動いたときほど、確認する前に反応しやすくなります。
ディープフェイクが使われる危険な場面
1．なりすまし詐欺
家族や知人の声をまねて、
「急いでお金を送って」
「事故に遭った」
「今すぐ助けてほしい」
と連絡する詐欺に使われる可能性があります。
四国マカフパ
「知っている声だったら、慌てて信じてしまいそうです」
オール・ドメディア
「だから、緊急の連絡ほど、別の方法で本人確認をすることが大切なんだ」
2．有名人を使った偽広告
有名人や専門家が、実際には紹介していない商品や投資を宣伝しているように見せる場合があります。
動画の中で本人が話しているように見えても、
公式アカウントに同じ発表があるか
本人の公式サイトで紹介されているか
商品を販売する会社は信頼できるか
を確認する必要があります。
3．偽の発言による評判の低下
本人が言っていない差別的な発言や暴言を、話したように見せることがあります。
それを見た人が怒り、確認する前に拡散すると、本人の評判や生活に大きな影響が出る可能性があります。
四国マカフパ
「偽物だと分かる前に広がったら、取り返しがつかないこともありそうです」
オール・ドメディア
「そう。訂正よりも、最初の衝撃的な動画の方が広がりやすいこともあるからね」
4．社会を混乱させる偽動画
行政機関や有名な人物が、実際には発表していない内容を話したように見せる場合があります。
例えば、
存在しない緊急発表
偽の災害情報
偽の制度変更
偽の企業発表
などです。
こうした情報は、不安や混乱を広げる可能性があります。
5．いじめや嫌がらせ
身近な人の顔を使って、本人がしていない行動をしたように見せることもあります。
作った人にとっては冗談でも、本人の心や人間関係を深く傷つける可能性があります。
四国マカフパ
「面白半分でも、人の顔を勝手に使ってはいけませんね」
オール・ドメディア
「その通り。本人の許可と、公開したときの影響を考える必要があるんだ」
ディープフェイクを見た目だけで見抜ける？
ディープフェイクの見分け方として、
まばたきが不自然
口の動きが合っていない
顔の輪郭が揺れている
光や影がおかしい
声の抑揚が不自然
手や歯の形がおかしい
といった特徴が紹介されることがあります。
実際に、こうした不自然さが手がかりになる場合もあります。
しかし、技術が進歩すると、不自然な点が少なくなることがあります。
また、画質の悪い動画や、通信環境の問題でも、顔や声が不自然に見える場合があります。
四国マカフパ
「不自然なら偽物、本物らしければ本物、と単純には判断できないんですね」
オール・ドメディア
「そう。見た目のチェックだけに頼りすぎないことが大切なんだ」
大切なのは、
「偽物の特徴を探す」だけでなく、「本物だと確認できる根拠を探す」
ことです。
ディープフェイクを確認する6つのポイント
怪しい映像や音声を見つけたら、次の六つを確認してみましょう。
1．誰が最初に公開した？
本人の公式アカウントなのか。
信頼できる報道機関なのか。
知らない人の投稿なのか。
切り抜きを転載したアカウントなのか。
まずは、発信元を確認します。
2．本人の公式発表はある？
本人の公式サイトや公式アカウントに、同じ発言や映像があるか確認します。
大きな発表であれば、本人や所属する組織から正式な説明が出ている可能性があります。
3．元の長い動画はある？
数秒の切り抜きだけでなく、元の会見、配信、インタビューなどを探します。
前後の流れを確認することで、
本当にその場で話したのか
別の言葉へ変更されていないか
発言の意味が切り取られていないか
を考えやすくなります。
4．複数の独立した情報源が伝えている？
大きな出来事なら、複数の報道機関や公式機関が確認しているかを調べます。
同じ偽動画を転載した投稿が大量にあるだけでは、独立した確認にはなりません。
5．投稿された日時を確認する
昔作られた映像が、現在の発言として広がることがあります。
また、本人の公式発表よりも前に公開されているなど、時間の流れに不自然さがないか確認しましょう。
6．何をさせようとしているか考える
映像を見た人に、
お金を送らせようとしている
個人情報を入力させようとしている
急いで拡散させようとしている
誰かを攻撃させようとしている
商品を買わせようとしている
場合は、特に注意が必要です。
四国マカフパ
「映像が本物かだけでなく、その映像の目的も考えるんですね」
オール・ドメディア
「そう。“なぜこの映像が今、私に見せられているのか”を考えてみよう」
声によるなりすましから身を守る方法
ディープフェイク音声を使った連絡に備えるには、声以外の方法で本人確認を行うことが大切です。
一度電話を切る
急な送金や個人情報を求められたら、一度連絡を終えます。
その場で判断を急がないようにしましょう。
登録済みの連絡先へかけ直す
相手から伝えられた番号ではなく、普段使っている電話番号や連絡先へ、自分からかけ直します。
本人しか知らないことを確認する
家族や親しい人との間で、確認用の合言葉を決めておく方法もあります。
ただし、SNSに公開している情報は、本人確認の質問として適さない場合があります。
別の家族や関係者に確認する
一人で判断せず、別の人にも相談します。
四国マカフパ
「知っている声でも、急にお金を求められたら確認するんですね」
オール・ドメディア
「うん。相手を疑うというより、相手を守るための確認だと考えよう」
本人が「偽物だ」と言えば、必ず偽物？
ここで、もう一つ注意したいことがあります。
ディープフェイク技術が知られるようになると、本物の映像に対しても、
「これはAIで作られた偽物だ」
と主張される可能性があります。
四国マカフパ
「本物なのに、偽物だと言って逃げることもできてしまうんですか？」
オール・ドメディア
「その可能性も考えないといけないね」
そのため、
「本人が偽物だと言っているから偽物」
「本人が本物だと言っているから本物」
という一つの説明だけで決めるのではなく、
元の映像
撮影した場所や日時
複数の記録
報道機関や関係者の確認
技術的な分析
など、さまざまな根拠を確認する必要があります。
ディープフェイクの時代には、本物を本物だと確認する力も必要になる
のです。
何でもディープフェイクだと疑う危険
ディープフェイクについて知ると、すべての映像が偽物に見えてしまうかもしれません。
しかし、何でも疑えば安全になるわけではありません。
実際の映像まで、
「どうせAIでしょ」
と否定してしまえば、大切な情報を受け取れなくなる可能性があります。
四国マカフパ
「信じすぎても危険で、疑いすぎても危険なんですね」
オール・ドメディア
「そう。大切なのは、感覚で決めるのではなく、確認することなんだ」
目標は、
「何も信じない人」
になることではありません。
根拠を確認して、信じるか保留するかを判断できる人
になることです。
ディープフェイクを見つけたと思ったら
怪しい映像を見つけても、すぐに、
「これはディープフェイクだ！」
と拡散しないようにしましょう。
自分の予想が間違っていた場合、別の誤情報を広めることになるからです。
次のように行動します。
元の投稿を確認する
本人や公式機関の発表を探す
複数の情報源と比べる
判断できなければ共有しない
必要な場合はプラットフォームへ報告する
四国マカフパ
「怪しい映像を注意喚起として広めることも、逆に拡散へ協力してしまう場合があるんですね」
オール・ドメディア
「そう。偽情報を否定するためでも、映像そのものを広げると、さらに多くの人へ届くことがあるからね」
注意を伝える場合は、偽情報そのものを繰り返し見せるのではなく、確認できた正しい情報を中心に伝えましょう。
自分がディープフェイクを作るときの責任
創作や遊びとして、顔や声を変えるアプリを使うこともあるかもしれません。
楽しい作品を作ること自体は、悪いことではありません。
ただし、次の点に注意が必要です。
本人の許可を得ているか
本物と誤解されないか
誰かを傷つける内容ではないか
個人情報や顔を勝手に使っていないか
創作や合成であることを伝えているか
公開後にどのように使われる可能性があるか
四国マカフパ
「友達の顔を使った面白動画でも、勝手に公開してはいけませんね」
オール・ドメディア
「うん。作る自由だけでなく、使われる人の権利や気持ちも大切にしよう」
一度公開された画像や動画は、保存され、別の場所で使われる可能性があります。
投稿前に、
「本人がこの動画を見たら、どう感じるだろう？」
と考えてみましょう。
ディープフェイク時代の「確認ルート」
怪しい映像や音声を見つけたら、次の順番で確認できます。
1．投稿を見る
誰が、いつ、どのような説明で投稿しているかを確認します。
2．元へ戻る
元動画、元音声、元の会見や配信を探します。
3．本人を確認する
公式アカウントや所属する組織の発表を確認します。
4．別の情報源を見る
複数の報道や関係者の説明を比べます。
5．目的を考える
その映像が、お金、個人情報、拡散、攻撃などを求めていないか考えます。
6．判断を保留する
根拠が足りなければ、共有せずに追加情報を待ちます。
四国マカフパ
「映像の顔だけをじっと見るのではなく、外側の情報も調べるんですね！」
オール・ドメディア
「その通り。映像の中だけで、本物か偽物かを決める必要はないんだ」
今日のまとめ
ディープフェイクとは、AIなどを使って人物の顔や声、動きなどを合成し、本物のように見える偽の画像・音声・動画を作る技術や制作物です。
ディープフェイクには、
顔を入れ替えた動画
本人に似せた音声
口の動きを変えた映像
表情や動きを作った動画
存在しない人物や場面
などがあります。
技術は、映画や教育、創作などにも活用できます。
一方で、
なりすまし詐欺
偽広告
本人の評判を傷つける動画
社会を混乱させる偽情報
いじめや嫌がらせ
に使われる危険もあります。
見た目だけで判断せず、
誰が最初に公開したか
本人の公式発表があるか
元の長い動画があるか
複数の情報源が確認しているか
日時に不自然さがないか
何をさせようとしているか
を確認しましょう。
四国マカフパ
「顔や声が本人に見えても、すぐに本人だと決めないことが大切なんですね！」
オール・ドメディア
「その通り。本物らしさではなく、本物だと確認できる根拠を見るんだ」
ディープフェイクに出会ったときは、次の言葉を思い出してください。
「本人に見える」と「本人だと確認できる」は違う。
この違いを知ることが、AI時代の偽情報から自分を守る力になります。
1分ワーク｜その動画の「外側」を確認しよう
最近見た、有名人や企業、行政機関などが登場する動画を一つ思い出してください。
そして、次の項目を確認してみましょう。
1．最初に投稿したのは誰ですか？
2．本人の公式アカウントにも同じ動画がありますか？
3．短い切り抜きではなく、元の長い動画はありますか？
4．投稿された日時は確認できますか？
5．別の情報源でも同じ発言が紹介されていますか？
6．その動画は、あなたに何をさせようとしていますか？
お金を払わせる
商品を買わせる
個人情報を入力させる
誰かを攻撃させる
急いで共有させる
すべてを確認できなければ、
「今の段階では、本物か判断できない」
と保留にしてみましょう。
ミニクイズ
家族と同じ声で、
「事故に遭った。今すぐお金を送って」
という電話がかかってきました。
最もよい行動はどれでしょうか？
A．家族の声なので、すぐに送金する
B．声が少し変なので、相手を怒鳴る
C．一度電話を切り、普段使っている連絡先へ自分からかけ直す
正解は、
C．一度電話を切り、普段使っている連絡先へ自分からかけ直す
です。
声が本人に似ていても、本人からの連絡だとは限りません。
緊急の連絡ほど、別の連絡方法や家族間の合言葉などを使い、本人確認を行いましょう。
次回予告
次回の講義14は、
「SNSで安全に発信しよう」
です。
フェイクニュースを受け取らないための方法を学んできましたが、私たちは情報を受け取るだけの存在ではありません。
投稿する。
コメントを書く。
動画を共有する。
画像を加工する。
誰かの発言を紹介する。
私たち自身も、情報を発信する側になります。
悪気がなくても、確認していない情報を共有すれば、フェイクニュースを広げる一人になるかもしれません。
また、個人情報や他人の写真を投稿することで、自分や周囲の人を危険にさらす可能性もあります。
次回は、
投稿前に確認すること
他人の写真や発言を扱うときの注意
間違った情報を投稿したときの訂正方法
安全で信頼される発信の基本
を、四国マカフパと一緒に学んでいきます。
最後まで読んでいただき、ありがとうございました。
AIによって、顔や声、動画は、本物そっくりに作られることがあります。
だからといって、すべての映像を怖がったり、何も信じなくなったりする必要はありません。
大切なのは、見た目だけで結論を出さず、その映像の外側にある情報を確認することです。
「本人に見える。でも、本当に本人だと確認できるだろうか？」
この問いを持つことが、ディープフェイクに流されない第一歩になります。
それでは、次の講義でお会いしましょう！
講師は、オール・ドメディア / Owl Dmedia。
生徒は、（4×2＝8）四国マカフパ / Siniha Sikoku Makafupaでした！
ハッシュタグ
#フェイクニュース
#ディープフェイク
#生成AI
#AI
#情報リテラシー
#メディアリテラシー
#SNS
#ネットリテラシー
#なりすまし
#詐欺対策
#情報教育
#ファクトチェック
#AllA
#オールアトリエ
#オールドメディア
