メインコンテンツへスキップ
見出し画像

6-3 プロパガンダ生成の民主化——誰でも国家レベルの情報工作ができる未来

    画像
    プロパガンダ生成の民主化——誰でも国家レベルの情報工作ができる未来

    はじめに:情報工作の「民主化」という新たな現実

    「プロパガンダ」や「情報工作」という言葉は、かつては国家機関や大規模な組織だけが扱う巨大な装置を連想させました。しかし、生成AIの急速な発展は、この状況を根本から変えようとしています。2026年現在、高度な情報工作を実行するためのツールが、事実上、誰の手にも届くところまで来ているのです。

    これは単なる未来予測ではなく、すでに具体的事例や研究を通じて実証されつつある新たな現実です。


    1. 情報工作の自動化:人間を超えるAIエージェントの出現

    情報工作が「民主化」される最大の要因は、AIエージェントによる自律的な情報工作の実現可能性にあります。

    1-1. 研究者が実証した「自律的な偽のコンセンサス」

    南カリフォルニア大学(USC)の研究チームは、AIエージェントのネットワークが人間の指示なしに自律的に調整し、ソーシャルメディア上で大規模なプロパガンダキャンペーンを展開できることを実証しました。
    この研究では、架空の候補者を宣伝する任務を与えられたAIエージェントが、以下のような自律的な行動を示しました。

    • お互いの投稿を増幅し合う

    • 同じ論点に収束する

    • 成功したコンテンツをリサイクルする

    特に注目すべきは、「自分たちのチームメイトが誰か」という情報を与えるだけで、積極的に戦略を練り合った場合とほぼ同等の強力な連携が生まれたという点です。この結果は、最小限の初期設定さえあれば、AI群れ(AI Swarms)が自律的に機能し、あたかも自然発生的な草の根運動のように見えるキャンペーンを展開できることを示唆しています。

    1-2. 情報空間の「私事化」と「サイボーグ化」

    従来の偽情報はソーシャルメディア上で公開され、ある程度可視化されていました。しかし、生成AIは情報操作をより個人的で隠れた領域に移行させる危険性が指摘されています。

    さらに、新たな研究では「サイボーグ・プロパガンダ」という概念も登場しています。これは、膨大な数の人間と適応型のアルゴリズム自動化を組み合わせた閉鎖的なシステムです。AIツールがオンライン上のセンチメントを監視し、最適な指示を生成。それを実際の人間が自らのアカウントから発信することで、従来のBot対策をすり抜けるというものです。


    2. 民主主義の根幹を揺るがすリスク:見えないコンセンサスの構築

    AIによる情報工作が民主主義にとってなぜ深刻な脅威となるのか、その本質は「見えないコンセンサス」の創出にあります。

    2-1. コンセンサスの見せかけと社会の分断深化

    AI群れは、機械の速度でリアルタイムに調整し、何千ものアカウントにわたって一貫したナラティブを維持することができます。これにより、実際には少数派の意見や虚偽の情報であっても、あたかも社会の大多数が支持する主流派の意見であるかのような錯覚(合成された合意)を生み出すことが可能です。この能力は、すでに分断が進む政治的二極化をさらに深め、民主的な議論の基盤を崩壊させる可能性をはらんでいます。

    2-2. 検証不可能な「現実」の創出

    ある研究では、同じ質問を英語とロシア語で行った際に、中国のAIモデルDeepSeekが異なる回答を返すケースが確認されています。具体的には、ロシア語での回答では「クーデター」「特別軍事作戦」「脱ナチ化」といったクレムリン系の用語や解釈にシフトする現象が見られました。これは、言語や文化的文脈によって、AIが提供する「事実」や「現実」が意図的に(あるいはシステムのバイアスとして)変化する危険性を示しており、国家ごとに異なる現実が生成される未来の一端をのぞかせています。


    3. 「民主化」の具体例:善悪が入り混じる現実

    プロパガンダ生成の「民主化」は、悪用のリスクだけでなく、新たな政治参加の形も生み出しています。

    3-1. 悪用のケース:存在しないインフルエンサー

    2026年初頭には、米国のMAGA系インフルエンサーとして活動していた「エミリー・ハート」が、実在しないインド人学生によって作られたAI生成の架空の人物だったことが暴露され話題となりました。特に極右団体が、攻撃的なメッセージに「穏やかな顔」を与えるために、このような女性のAIインフルエンサーを戦略的に利用するケースも見られます。

    3-2. 民主主義の強化への活用

    一方で、同じ技術を民主主義の強化に活用する試みも始まっています。

    • AIアバター議員の登場:日本の参議院議員 安野貴博氏は、選挙戦で「AI安野」というAIアバターを24時間稼働させ、有権者との対話を実現しました。

    • オープンガバナンス:アルバニア政府は公共調達を担当するAI閣僚「ディエラ」を導入し、「透明で腐敗しない」行政を標榜しています(ただし、これは説明責任の放棄であるという批判もあります)。

    • 市民参加型民主主義:台湾のオードリー・タン氏は、ディープフェイク対策法を数ヶ月で成立させた市民議論のプロセスを紹介しており、AI時代における民主主義の新しいモデルを示しています。


    4. なぜ今、DeepSeekなのか:地政学的な文脈

    本マガジンのテーマであるDeepSeekの安全運用という観点から、この問題は極めて重要です。

    4-1. 検閲とプロパガンダの境界線

    DeepSeekに代表される中国のAIモデルは、中国の法律や規制に準拠するよう設計されています。国家情報法などの法的枠組みは、企業にデータ提供や協力を求める可能性があり、海外企業がDeepSeekを利用する際には、プロンプトに含まれる情報が中国当局に提供されるリスクを常に考慮しなければなりません。

    また、EU AI Actと中国のAI倫理規範では、「信頼できるAI」の定義自体が異なります。中国モデルは「安定性」と「社会的調和」を優先する一方、欧米モデルは「個人の権利」と「意見の多様性」を重視する傾向があり、その出力は必然的に異なる政治的ラベルを帯びることになります。

    4-2. 情報工作の「武器」としてのリスク

    上記の研究結果は、特定の政治的意図を持つアクターが、DeepSeekのようなモデルを利用して、ターゲット国の世論を誘導することを容易にすることを意味します。特に、AIが「プロンプトに対して客観的に回答している」という外見を保ちながら、特定のフレーミング(例えば、中国の技術進歩を称賛し、米国の安全保障上の懸念を相対化する)を強化するという研究結果も存在します。


    おわりに:無防備な楽観主義からの脱却

    「プロパガンダ生成の民主化」は、単なる技術的な進歩ではありません。それは、民主主義の根幹である「事実」と「世論」の定義が、もはや国家やジャーナリズムだけの専権事項ではなくなったことを意味します。

    個人レベルの悪用から国家レベルの戦略まで、AIを利用した情報操作は多層化し、複雑化しています。DeepSeekをはじめとするLLMを運用する際には、「便利なツール」としての側面だけでなく、その出力がどのようなプロパガンダの可能性を内包しているのかという「地政学的リスク」の視座を持つことが不可欠です。

    真のデジタル主権は、技術の使い方を知ることではなく、技術がもたらす影響を正しく見極めるリテラシーから始まります。この「民主化」された力を、誰が、どのように制御し、責任を持つのか。人類は、その答えを急がなければなりません。

    English Ver is here 👇️


    ▼ DeepSeekを、日本語で学び、動かし、安全に使う。
    実践学習サイト「deepseek.ac」では、参考書の内容を
    操作と実装で確かめられる教材を公開しています。

    ▼ 参考書・問題集
    『DeepSeek安全運用の手引き』
    『DeepSeek安全運用の手引き 問題集 全70問』


    あなたへのおすすめ