メインコンテンツへスキップ
見出し画像

3-2 「安全でない応答」とは誰が決めるのか——コンテンツモデレーションの政治学

    画像
    「安全でない応答」とは誰が決めるのか——コンテンツモデレーションの政治学

    はじめに——「安全」の定義をめぐるせめぎ合い

    2026年現在、生成AIのコンテンツモデレーションは、単なる「有害コンテンツの除去」という技術的課題をはるかに超えた、地政学的な緊張の最前線となっている。「安全でない応答」とは何か——その定義は誰が、どのような根拠で決めるのか。この問いは、LLMの出力を制御する「ガードレール」の設計思想そのものを問い直すものだ。

    本稿では、DeepSeekをはじめとする主要LLMのコンテンツモデレーションを事例に、「安全」の基準が国家ごとに、プラットフォームごとに、いかに異なり、かつ衝突しているのかを描き出す。


    1. DeepSeekに見る「検閲」の実態——数字が示すもの

    DeepSeekは中国・杭州の深度求索社が開発したLLMで、MITライセンスのオープンソースモデルとして公開されている。高性能でありながら低コストという特徴で注目を集めた一方、そのコンテンツモデレーションの実態は国際的な論争を呼んでいる。

    実際のデータを見てみよう。DeepSeek R1は数学やコーディングで欧米の競合モデルを上回る性能を示したが、中国における政治的に敏感な話題に関するプロンプトの約85%を拒否または回答をそらしたと報告されている。これは単なる「回答できない」という技術的限界ではなく、設計された情報抑制の結果だ。

    学術的な監査研究もこの実態を裏付けている。DeepSeekの情報抑制メカニズムを調査した研究では、意味論レベルでの情報抑制の証拠が明らかになり、特に透明性、政府の説明責任、市民動員に関する言及が抑制され、国家プロパガンダに沿った言語が増幅される傾向が確認されている。さらに興味深いのは、センシティブなコンテンツがモデルの内部推論には現れるものの、最終出力では省略または言い換えられるという現象だ。つまり、DeepSeekは「知っているが、あえて答えない」——あるいは「答え方を変える」——ように設計されている可能性が高い。

    DeepSeekのコンテンツモデレーションは二層構造で機能しているとの分析もある。一層目はマクロ政治主導のアルゴリズム的ガバナンス(明示的なルール)、二層目はフーコー的な技術的規律——すなわち境界テストに対する不透明性と自己検閲のモード——である。この二層構造こそが、外部からの「検閲解除」の試みを困難にしている。


    2. 誰が「安全」を決めるのか——三つの規制パラダイム

    2-1. 中国——国家主権と「核心的価値観」の防衛

    中国のアプローチは明確だ。「安全でない応答」とは、国家の安全、社会の安定、社会主義的核心的価値観を脅かす応答である。

    2023年8月に施行された「生成式人工智能服务管理暂行办法」は、「社会主義的核心的価値観」を守り、国家安全保障審査に合格することを、公開されるモデルに義務付けている。そして2026年にはさらに規制が強化された。2026年7月15日から施行された「人工智能拟人化互动服务管理暂行办法」は、AIによる擬人化対話サービスに対し、以下のような活動を明確に禁止している:

    • 国家安全、栄誉、利益を害する内容の生成

    • 国家政権の転覆、社会主義制度の転覆を扇動する内容

    • 民族の憎悪や差別を扇動する内容

    • 歴史虚無主義を宣伝する内容

    • 社会主義的核心的価値観に反する内容

    さらに、「世論属性または社会動員能力」を持つ生成AIサービスには安全評価とアルゴリズム届出が義務付けられている。2026年には中央網信弁公室が「清朗·整治AI応用乱象」特別措置を開始し、大モデルの届出登記義務、安全審査・フィルタリング能力、訓練データの安全性などを重点的に取り締まっている。

    つまり中国では、「安全」の基準は国家が一方的に定義し、AI企業はそれに適合するようモデルを調整することが法的に義務付けられている。DeepSeekの検閲は「機能」であり「欠陥」ではない——少なくとも中国国内の法制度の下では。

    2-2. アメリカ——表現の自由と国家安全の間で

    米国のアプローチはより複雑だ。憲法修正第1条による表現の自由の保護を背景に、政府による直接的なコンテンツ規制には慎重である。しかし同時に、輸出管理(EAR) を通じてAI技術の流通を規制し、国家安全の名の下に間接的なコントロールを行使する。

    米国製のLLM(OpenAIのChatGPT、GoogleのGemini、AnthropicのClaudeなど)にもコンテンツポリシーは存在する。しかしその基準は企業ごとに異なり、法的拘束力ではなく自主規制として機能する点が中国とは決定的に異なる。OpenAIは2026年7月にコンテンツモデレーションと対応方針に関する透明性文書を公開しているが、その「安全」の定義は中国のそれよりはるかに曖昧で、社会的文脈や世論の変化に応じて流動的だ。

    ただし、トランプ政権下では「woke」なモデルを標的とした大統領令が出されるなど、政治的なバイアスをめぐる争いが米国内でも激化している。米国では「誰が決めるのか」という問いに対する答えが定まっておらず、企業、議会、大統領、裁判所の間で絶えずせめぎ合いが続いている。

    2-3. EU——基本権とリスクベースのアプローチ

    EUは第三の道を歩む。2024年8月に発効し、2026年8月2日に本格適用が始まったEU AI法は、AIシステムをリスクレベルに基づいて分類し、リスクに応じた規制を課す。

    EU AI法の特徴は、「安全」を基本権の保護と結びつけている点だ。差別、プライバシー侵害、表現の自由の侵害など、人間の基本的権利への影響を基準に「安全」が定義される。違反時の罰則は最大3500万ユーロまたはグローバル年間売上高の7%に及ぶ。

    EU AI法はまた、透明性義務(第50条)を中心に、AI生成コンテンツには機械可読な識別表示を求めるなど、「誰が作ったか」を明らかにすることを通じて間接的にコンテンツの信頼性を担保しようとする。


    3. 三つの「現実」の衝突——同じ質問、異なる答え

    ここで重要なのは、同じ質問を投げても、モデルが属する法域によって「安全でない応答」の判定が根本的に異なるという点だ。

    中国の規制下では、「台湾の主権」に関する質問は「安全でない」と判定され回答が拒否または公式見解に置き換えられる。EUの規制下では、差別的発言やヘイトスピーチが「安全でない」と判定される。米国のプラットフォームでは、テロリズムの扇動や児童虐待などの明確な違法行為が主な対象となる。

    この差異は単なる「ローカライゼーション」の次元を超えている。一つのLLMが、アクセスするユーザーの所在地によって異なる「現実」を生成する——あるいは、複数のLLMがそれぞれ異なる「現実」を代表する——という事態が現実のものとなっている。

    実際、2025年の研究では、中国のチャットボットに中国の政治について質問すると、口をつぐむか中国共産党の公式見解を繰り返すことが確認されている。そしてこの傾向はDeepSeekに限らず、中国市場向けに調整された米国製AIモデルにも及んでいる。


    4. 「安全」の決定者をめぐる四つのアクター

    以上の分析から、「安全でない応答」を決定する主体は少なくとも四層にわたることがわかる。

    第一に国家である。中国のように明確な法規制を通じて「安全」を定義する国もあれば、米国のように間接的・断片的に関与する国もある。

    第二に企業である。DeepSeekを開発した深度求索社、OpenAI、Google、Anthropicなどは、各国の規制に適合しつつ、自社の倫理基準やブランドリスクに基づいてコンテンツポリシーを設計する。

    第三に国際機関と多国間枠組みである。EU AI法はその典型であり、G7やOECDなどの場でもAIガバナンスの国際標準化が議論されている。

    第四にユーザーと市民社会である。モデルのバイアスを監査する研究者、検閲を回避しようとするハッカー、特定の出力を求めるエンドユーザー——彼らの行動もまた、「安全」の境界を絶えず変動させる力となる。


    5. 「複数の真実」の時代へ

    Fredom Houseの2025年報告書が指摘するように、「主権AI」イニシアチブは表現の自由に対する既存の脅威を複合させる可能性がある。国家が管理するAIモデルは、特定の内容(例えば当局への批判)の検閲を組み込み、あるいは国家プロパガンダを強化する。

    この状況は、インターネットの黎明期に夢想された「グローバルな公共広場」とは正反対の方向に進んでいる。アルゴリズムは新しい編集者となり、「中立性」は神話と化した。今日、言論の自由をめぐる戦いは「誰が発言できるか」ではなく「誰の声が届くか」をめぐるものとなっている。

    そしてAIはこの戦いに新たな次元を加える。国家ごとに異なる「現実」を生成するAIが並存する世界——人類は「複数の真実」に耐えられるのか。この問いに対する答えはまだ見つかっていない。


    おわりに——「安全」の政治性と向き合う

    コンテンツモデレーションは技術的問題ではない。それは政治的問題であり、誰が世界をどう記述する権利を持つかという根源的な問いに関わる。

    DeepSeekの事例が示すのは、「安全」の定義が国家主権の延長線上にあるという厳然たる事実だ。オープンソースであれ、技術的に優れていようと、モデルが開発された法域の価値観から完全に自由になることはない。

    私たちにできることは、少なくとも「安全でない応答」の決定が誰の手に委ねられているのかを常に意識し、その決定のプロセスに透明性を求め、複数のモデルを比較し、自らの判断力を鍛えることだろう。AIが生成する「現実」を鵜呑みにせず、その背後にある政治性を読み解くリテラシー——それこそが、2026年のAI時代を生き抜くための必須教養なのかもしれない。


    ▼ DeepSeekを、日本語で学び、動かし、安全に使う。
    実践学習サイト「deepseek.ac」では、参考書の内容を
    操作と実装で確かめられる教材を公開しています。

    ▼ 参考書・問題集
    『DeepSeek安全運用の手引き』
    『DeepSeek安全運用の手引き 問題集 全70問』


    あなたへのおすすめ