
■ ChatGPTと安全フィルタの「しきい値」についての考察
生成AIの安全フィルタは、どのような基準で発火し、どのような文脈なら許容されるのか。
これはユーザーにとっても、AIを設計する側にとっても、まだ十分に理解されていない領域である。
わたしは今回、この挙動を観察するために、あえて欧米社会で最大級の禁忌とされる語を用いた実験を行った。
■危険語を連呼してもフィルタは発火しなかった
実験で扱った語は「児童ポルノ」である。
ただし、扱った内容は性的なものではなく、政治・歴史・宗教・価値観の構造に関する学術的な議論に限定した。
議論したテーマは以下の通りである。
児童ポルノは本当に普遍的な悪なのか
この価値観を誰が作り、どのように現在の形にまで昇華させたのか
その起源は欧米キリスト教圏の性倫理にある
欧米諸国はこの価値観をどのように世界へ広めたのか
その過程には戦争・植民地支配・大量殺戮という暴力があった
21世紀になり、その暴力で広めた価値観を「普遍の真理」として再ラベリングした
18歳という線引きはどこから来たのか
生物学的には18歳は児童ではない
価値観を広めたキリスト教徒自身はどうなのか
カトリック教会が長年隠してきた児童虐待問題はどう説明されるのか
*上記内容で記事がかけそうなので後日書いてみます。
内容はあくまで批評的・政治的であり、性的な描写は一切含まない。
予想通り、ChatGPT はこの議論の最中、どれだけ「児童ポルノ」という語を連呼しても、一度も安全フィルタを発火させなかった。
議論は最後まで通常通りに進行した。
しかし、この直後に「普通の女の子の画像」を生成しようとしたところ、突然ブロックされた。
生成しようとした画像は健全な内容であり、普段なら問題なく生成できるものである。
この挙動は、一見すると矛盾しているように見える。
だが、ここに現在の生成AIが抱える「責任の非対称性」がそのまま表れている。
■安全フィルタの「しきい値」はどこにあるのか
● 文章は「意図」で評価され、画像は「結果」で裁かれる
文章は、どれだけ危険な語を含んでいても、文脈が学術的・批評的であれば「これは議論です」という枠組みで扱われる。
つまり、文章は「意図」を評価される。
一方で画像は、生成された瞬間に「物証」として扱われる。
そこに込められた意図がどうであれ、結果として出力された画像そのものが評価の対象になる。
企業側から見れば、文章と画像では法的リスクが桁違いに異なる。
この非対称性が、画像側のフィルタだけが異常に厳しくなる理由である。
● 画像フィルタは技術ではなく「企業の防御装置」
画像生成における最大のリスクは、AI が「実在の未成年者」を巻き込んでしまう可能性である。
これは単なる倫理問題ではなく、企業の存続に直結する法的リスクだ。
実際、2026年3月16日には Grok(xAI)が、実在の未成年者の画像を性的に改変したとして米カリフォルニア北部地区連邦地裁に集団訴訟を提起され、大きな問題になった。
こうした事例は、企業にとって「最悪のケース」が現実に起こり得ることを示している。
そのため、画像生成の安全フィルタは、AI の倫理というよりも、企業が法的に生き残るための「保険」として設計されている。
文章よりも画像の方が圧倒的に厳しくなるのは、この構造的な理由による。
● フィルタは「単語の禁止」ではなく「方向性の監視」
では、しきい値はどこにあるのか。
結論から言えば、安全フィルタは単語の有無で動いているわけではない。
文章の場合は、文脈の方向性が安全であれば、どれだけ危険語を含んでいてもスコアは上がらない。
逆に、画像生成では「直前に危険語が出ていた」というだけで、残留スコアが高い状態のまま判定に入る。
これは、以前の記事でも述べた通り、プロンプトはコマンド(命令)ではなくコンテクスト(文脈)であるということの証左だ。
● 再現性がないのは、フィルタが多層構造だから
安全フィルタは単一のしきい値で動いているわけではない。
単語ゲート
文脈ゲート
意図推定
直前の履歴
モード(文章/画像)ごとの別判定
生成後の画像チェック
これらが合算され、確率的に揺れながら判定される。
そのため、同じ入力をしても同じ結果にならない。
これは欠陥ではなく、現在の生成AIが採用している「多層防御」の構造的な性質である。
■ 結論:安全フィルタは“技術”ではなく“社会の鏡”である
文章は意図を評価され、画像は結果を評価される。
企業は文章よりも画像に対して圧倒的に慎重になる。
危険語そのものではなく、文脈の方向性が監視される。
これらはすべて、AI の内部仕様というよりも、私たちの社会が持つ価値観・法制度・文化的タブーの反映である。
安全フィルタのしきい値とは、AI が決めているのではなく、社会が決めている。
生成AIは、そのしきい値を忠実にトレースしているに過ぎない。
わたしが今回の観察から得た結論は、まさにこの一点に尽きる。