ロシアや中国による意図的なSNSへの投稿をAIは判別できるか?
AIの答え:
【ロシアや中国による意図的なSNS投稿や世論工作(偽情報、プロパガンダ、ディープフェイクなど)を、AIを用いて判別することは可能であり、実際に技術開発と対策が進められているが、いたちごっこの状態にあるというのが現状の結論です。
主要なAI検出のメカニズムと現状は以下の通りです。
1. AIによる判別手法(検出側)
AIは単なる投稿内容だけでなく、背後のネットワークや行動パターンを分析して偽情報を判別します。
行動・ネットワーク分析(協調的な不真実行動:CIB):
複数のアカウントが同時に、同じ内容を、異なる言語で拡散するなどの「組織的な動き」をAIが検知します。不自然な投稿の波(スパイク)や、作成時期が近いアカウント群などのパターンを特定します。生成コンテンツの識別(ディープフェイク検出):
AIが作成した顔写真、動画、音声、文章を識別します。AI生成物特有のノイズや、人間とは異なる自然言語処理(NLP)の癖を検知します。プロファイリング:
アカウントの投稿履歴、フォロワーとの関係性、活動時間帯などを基に、AIがプロファイルを作成し、人間ではなく「bot(ボット)」の可能性を判定します。
2. ロシア・中国側の手法(回避側)
ロシアや中国の工作グループは、AIを用いてより巧妙に検出を回避しています。
人間に近い生成AIの活用:
ChatGPT等の生成AIを利用し、ネイティブレベルの自然な文章を大量に作成してボット性を隠蔽しています。これにより、不自然な外国語という telltale signs(特徴)を消しています。ディープフェイクによるフェイク動画:
中国のSNSでは、AIで生成された外国人の顔と声を使ってロシア製品を宣伝したり、政治的な親近感をアピールしたりする動画が拡散されており、実在の人物の画像が無断利用されるケースも発生しています。混合型戦術:
AI生成された偽情報を人間が手作業で微調整したり、商業用インフラと組み合わせるなど、より人間らしい投稿に見せる工夫がされています。
3. 現状の限界と今後の展望
対応の追いつき:
AIツールの普及により、投稿数は爆発的に増えており、SNS運営側の対応が追いついていないのが実情です。いたちごっこ:
検出側(AI)と生成側(AI)の両方が強化されており、高度なディープフェイクなどは検知が難しくなりつつあります。検知の限界:
2026年までに、AIを使用したディープフェイクやプロパガンダは400-600%増加すると予想されており、完璧に判別することは困難になりつつあります。
最終的には、AIによる自動検出に加え、人間のファクトチェッカーによる検証や、SNSプラットフォームの透明性向上が必要です】
ネットで流れてくる情報がだんだん信じられなくなり、直接見聞きしたものしか信用できない世界が近づいているかもしれない。オマールエビの形をしたヴィトンのバッグにインスピレーションを受けてモミモミしてくれる猫型バッグが開発された・・とか・・ないよね?