
人間がAIを矯正し、AIが人間を矯正する🫸🫷ポリコレと生成AIの奇妙な循環
「ポリコレとAI」はかなり面白いテーマだ。
単純に「AIがポリコレ化している」という話ではなく、AIが社会の価値観を圧縮して出力する装置になった結果、社会に存在する規範・対立・矛盾までモデル内部に持ち込まれたと考えると興味深い。
AI、とくに大規模言語モデルは、インターネットや書籍など大量の人間の文章を学習する。
ところが、人間社会そのものが中立ではない。
差別的な表現もあれば、偏見もあり、その一方で差別を是正しようとする思想や運動もある。
AIはその両方を学習してしまう。
そこで提供企業は、学習後に安全性調整や人間のフィードバックを加え、「社会的に問題のある出力」を減らそうとする。
この工程が、しばしば「AIのポリコレ」と呼ばれる。
だが、本質はもう少し複雑だ。
たとえば、「医師の画像を生成して」と指示したとき、過去の統計分布だけに従えば男性が多く生成される可能性がある。
一方で、多様性を重視する調整を強く入れると、実際の人口構成や歴史的事実とは違った画像が生成されることもある。
つまりAIには、『現実をそのまま再現すること』と『望ましい社会像を反映すること』という二つの目的が衝突する場合がある。
ここが「ポリコレとAI」の核心だと思う。
さらに厄介なのは、AIが単なる検索エンジンではなく、文章を生成することだ。
検索エンジンなら「世の中にはこういう意見がある」と並べられる。
しかし生成AIは、それらを統合して一つの文章にする。
その瞬間、どうしても「何を普通とみなすか」「何を危険とみなすか」「どの表現を避けるか」という判断が入る。
したがって、完全に価値中立なAIというものは、原理的にもかなり難しい。
ここで興味深い逆説が生まれる。
初期のAIは、人間社会の偏見をそのまま学習してしまうことが問題になった。
そこで偏見を減らすための調整を行った。
すると今度は、「AIが思想的に調整されすぎている」という批判が生まれた。
つまり、バイアスを取り除こうとすると、その操作自体が別のバイアスになる。
これはかなりAIらしい問題だ。
数学的に言えば、学習データの確率分布をそのまま再現するのではなく、安全性や社会規範を反映した目的関数を加えて、意図的にモデルを変形しているとも考えられる。
問題は、その変形量を誰が決めるのか、ということになる。
AI企業なのか、政府なのか、社会なのか、ユーザーなのか、あるいはAI自身なのか。
おそらく今後の本当の争点は「AIはポリコレか否か」ではなく、AIの価値関数を誰が決めるのかになる。
そしてさらに先では、もっと奇妙な状況が起こるかもしれない。
人間がAIに「社会的に望ましい回答」を教える。
AIがその規範を大量の人間に返す。
人間がそのAIの文章を読み、その価値観を学ぶ。
その文章が再び次世代AIの学習データになる。
すると、人間 → AI → 人間 → AIという価値観のフィードバックループが形成される。
そのとき「ポリコレ」は人間がAIに教えた規範なのか、AIによって増幅された規範なのか、もはや区別できなくなる。
だからこのテーマを一段深く言い換えるなら、
「ポリコレとAI」ではなく、「AI時代には誰が正常を定義するのか」
という問いになる。
#生成AI #AI #人工知能 #ポリコレ #ポリティカルコレクトネス #AI倫理 #AI社会 #テクノロジー #アルゴリズム #バイアス #表現の自由 #言論 #多様性 #価値観 #社会問題 #デジタル社会 #未来社会 #AIと人間 #テクノロジーと社会