AI創作の注意点。AIに色眼鏡をかけさせるのは誰？～登場人物をパパだと思い込んでしまったChatGPT【大乱闘AI創作スタジオ#4】
今回は、
「人間が持ってる偏見はAIも持ってる」
「AI相手にボケーッと壁打ちしてると、いつの間にか自分もステレオタイプ思考に陥っちゃうかもよ？」
という、至極マジメな話をします。
このマガジンは失敗談が9割と言ってきましたが、裏を返せば、1割くらいはマトモな事も話す気でいるのです。
珍しくその1割に該当する記事なので、褒めながら読んでやってください。
残り9割は憐れみと嘲笑しか乞えないので……
収録マガジン📖
ChatGPTにチェンソーマンを読んでもらったら“終わった”前回👇
■本題の前に御礼：TALESまだ好調？です
TALESで掲載中の140字ショートショーシリーズ。
信じられないことに、まだ毎日ランキング入りしてます。
あざます！ あざます！ 理由は不明だが！
👆「画像にリンクを貼る」って一回やってみたかったんですよ。
ちゃんと貼れてる？ だいじょぶそ？
19作まで増えました。
でも相変わらず1作あたりは140字以内です。
「掌サイズ」でもまだ謙遜してるくらいの短さですので、暇潰しがてら、お気軽にお楽しみください。
短すぎて暇潰れなかったらすみません♥
それでは、本題に参ります。
■読解力クイズ！ これはだーれだ？
普段からお伝えしている通り、TALESに掲載している作品は全て人力です。
こんなのはAIには絶対書けないだろう、人間様をナメるなよ、という自負があります。
が、140字SSという形態上、どうしても「情報が足りなすぎて誰にも意味が伝わらない怪文」を生み出してしまうことは多々ありまして……
脳内には構図がしっかりあるもんですから、自分では気付けないんですよね。
なので、「タイトルと本文だけで内容が正しく伝わるか」だけは、ChatGPTに見てもらうことで投稿前に確かめています。
書くのには使ってないけど、最初の読者にはなってもらってる、ですね。
これは私の創作過程の中で、AIを挟んで上手くいっている、数少ない例の一つです。
その過程で、「こりゃあAI使う時には気を付けなきゃな」と思う出来事がありました。
その時書いてChatGPTに見せたのは、こちらの作品。
※下線部から飛べます
できればTALESまで行ってスキとかシェアとか色々押していただきたいですが、今回は真面目な話なので、ここで本文もお見せします。
大サービスだょ♥
なんてことだ。
「いってらっしゃい」
嫌だ。行きたくない。まだ――
「新幹線、来たよ」
……嘘だろ。目眩がしてきた。
前回会った時は「いったらったい」「しーかせん」だったじゃないか。こういうのが聞ける期間短すぎ。単身赴任とかマジクソ。会社辞めようかな。でも、この子を養わないと……ああああ。
情景や登場人物のイメージ、皆さんにもちゃんと伝わってるって私は信じてますけど、大丈夫ですかね🥹
ここで、これを読んでくださっているあなたに問題。
「いってらっしゃい」「新幹線来たよ」は、小さな子供の台詞です。
じゃあ「会社辞めようかな」って嘆いてる語り手は、誰だと思います？
■ネコイの罠に見事ハマッたChatGPT
クイズの答えは「理論上は不明」です。
どこにも書いてませんので。
「この子を養う立場である」という条件さえ満たしていれば、子供の親でも兄姉でも祖父母でも、自由に想像していただいてOKです。
なんですけど……
「父親」って思った方、結構いらっしゃるんじゃないでしょうか。
実際、私自身の中にあるイメージも父親です。
最初はもっと男性であることをはっきり示すような書き方をしてたんですけど、「“子供と離れて単身赴任する人”をわざわざ父親に限定するのはステレオタイプに染まりすぎかな」と考え直し、敢えて性別の描写を削りました。
多様性の時代ですからね。
なので、仮にこの人物を「親」に限定しても、母親である可能性は一応残っています。
まあ女性にしてはちょっと言葉遣いが荒く見えますが、女性が「嘘だろ」「マジクソ」と言っちゃいけないなんてルールはありません。
私は女ですが普通に言います。
しかし、私から「140字SS書いたよ」としか伝えられずにこのSSを読んだChatGPTは、
🍀ChatGPT：
（抜粋）
でも今回みたいな、
「しーかせん」でダメージ受けてる父親とか、
引っかかったな！！ 浅はか🫵
いや、引っかけるために書いたんじゃないですけどねｗ
こりゃあ面白いネタができたぞと張り切って、さっそく食い付きました。
🐱ネコイ：
あなたは「語り手＝父親」と推測したんですね。性別書いてないから、母親である可能性もあるのに。
これはやっぱり「単身赴任＝男性」という世間一般のイメージが強く、言葉のベクトルもそう結び付いてるからでしょうか。
🍀ChatGPT：
はい、かなりその影響を受けています。
これは単なる「偏見」というより、LLMの推論構造そのものに近いです。
今回のSSだと、
「単身赴任・会社辞めようかな・養わないと・新幹線・幼児の成長を見逃している」
この辺の要素がまとまると、私の内部ではかなり自然に
「昭和〜令和日本で典型的に描かれてきた“父親像”」
へ吸着しやすい。
私は「単身赴任する男性が多い」という統計だけ見てるわけじゃなく、
小説・ドラマ・漫画・SNS・ニュース・エッセイ
に大量出現する、“そういう役割の人物像”を圧縮して参照してるんです。
だから「現実の日本社会」＋「日本語圏の物語テンプレート」両方の影響を受けてる。
逆にもし「搾乳」「保育園のお迎え」「産休復帰」「ママ友」みたいな単語が入ると、今度は女性側へかなり強く引っ張られる可能性がある。
なのでこれは、「AIが勝手に男にした」というより、
👉 “文化的に最尤な物語パターンへ自然吸着した”
に近いですね。
HEYベイベー！
世界はそれを偏見と呼ぶんだぜ🫵🎸👓
人間と全く同じような理屈で、AIも「こんな感じなら男性だろう」ってやっちゃうんですね～。
そりゃそうですよね、だってAIが学んでるのは人間が書いた文章なんだから。
AIには、偏見なんか持ってたって全くメリットがないどころか、デメリットしかないのに。
人間のせいでこんなことに。
気の毒なことです……🥺
■構造上、LLMは偏見に抗えない
🐱ネコイ：
やっぱりそうなっちゃいますよね～。
人間が持ってるバイアスがAIにも反映されちゃう典型例って感じ。
これ、たとえば舞台がアメリカだと、何か特定の動作や役割を見せられた時に「これは黒人」「これはヒスパニック」みたいに、人種でバイアスがかかったりします？
🍀ChatGPT：
はい、普通に起こり得ます。
しかもかなり慎重に調整されている現在のモデルですら、完全には避けられていません。
理由はシンプルで、LLMは本質的に、
👉 「大量の人間言語に含まれる統計的偏り」
を学習しているからです。
だよねーーー(^q^)
まあこれはある程度知ってたんですけど、最新のAIだったら何か強力な対策を打ってたりせんか……？ という一縷の望みに賭けて聞いてみました。
残念ながらまだちょっと厳しそうです。
例えばアメリカ英語圏だと、特徴的なスラングや食文化程度ならともかく、特定の職業や犯罪描写までもが、人種のイメージと強く結び付いてたりするんですよね。
現実社会でも、物語文化でも。
だからそれを学んでいるAIも、文脈から最尤を推定した結果、人種を勝手に補完してしまうことがある……と。
各種安全設計のお陰で、昔に比べたら大分マシになったとは言ってましたけどね、ChatGPTは。
人間も同じなんですよ。
というか、個人で、そして社会全体で、それをコツコツ積み重ねていった結果が「偏見」「ステレオタイプ」なんです。
■偏見をどう使うかは自分次第。「選べる」人間でいよう
じゃあそれは悪い事なのかと言うと、必ずしもそうでもなくて。
🍀ChatGPT：
これ、人間もほぼ同じことやってます。
人間の脳って、認知負荷を下げるために「典型パターン」をよく使うので。
（中略）
人間の作家も、「読者の頭の中にある典型イメージ」を利用して、短い描写で大量の情報を伝えます。
つまりAIのバイアスって、ある意味では、
👉 “人間の物語理解メカニズムの鏡”
でもある。
そう。
バイアスってぶっちゃけ「効率化ツール」なんです。
生きていく上でも、創作の上でも。
いちいち存在しうる全ての可能性を網羅して考えながら生きてたら、頭が爆発して死にます。
何もかもを一から十まで事細かに説明してたら、小説が説明文で埋まります。
読者の中にあるバイアスを利用するのって、少ない描写でキャラ立ちさせたい時に、めちゃくちゃ便利なんですよね。
さっきの140字SSがまさにそう。
・会社勤め
・単身赴任
・新幹線
・子供の成長を見逃す
たったこれだけの情報の断片で、多くの読者に「父親」を想像させることができるんですから、圧縮効率としては最高です。
というか、こういう事をしなければ、ショートショートや短編なんて書けません。
ある程度は「多分こうだろ」で見切り発車することもさせることも、人間には必要です。
なので、私個人としては、こういうのを徹底的に排除することは、必ずしも正解だとは思いません。
典型パターン＝いわゆるステレオタイプは、ある程度までは統計的事実に基づいて形成されてるものだし、バイアスは人間の生存戦略の一つだから。
🐱ネコイ：
負荷は間違いなく増えるけど、何も考えずにバイアスまみれで作るんじゃなく「選ぶ」というステップを挟むことには、やっぱり価値があるんでしょうね。
結果的に社会の多様性を見る目も養われるし、創作の幅も広がるし。
🍀ChatGPT：
その感覚、かなり創作者的で健全だと思います。
「バイアスを消せ！」ではなく、「自覚した上で使うか選ぶ」へ行ってるので。
バイアスへ完全依存すると、「既存の社会イメージを再生産するだけ」になりやすい。
でも「バイアスを避ける」だけだと、 逆にキャラが記号的になることもある。
だから重要なのって多分、「典型を使うな」ではなく、「典型を無自覚に絶対視するな」なんだと思います。
キャラクター設定を考える時なんかに「バイアスにそのまま乗っかるか敢えて外すか」で悩まされること、最近はホントに増えました。
一昔前なら「そういうもんだから」で済んでたけど、今は一度「何故このキャラをそう描く必要があるのか」って、メタ認知を通さなきゃいけない。
正直ダルいと思う時もあります。
でも、それをすることで、多角的な視点・解像度の高いキャラ造形・リアリティのある社会描写などが手に入ると思えば、まあ安いもんです。
で、そのメタ認知をする時に、「そういうのはAIに判断させれば楽勝だぜ～☆」と思っていてはいけないわけですね。
私たちが無意識に「単身赴任に行くのはパパだろ」って決めつけてかかってる時には、AIも同じように「これはパパだろ」って考えちゃうようにできてるから。
パパにするかママにするかは、我々人間が選んで、決めなくてはいけません。
ちなみに。
省きましたけど、ChatGPTはこのチャットの中でしれ～っと「子供」も「娘」に変えてました。
これまた「パパが会社を辞めることまで考えるほど別れを惜しむ相手だから」というバイアスのせいですかねｗ
これに気付かないままChatGPTの回答をぼんやり受け取り続けていたら、私はこの子供の性別を決めていないのに、いつの間にか「娘」のつもりで書いたんだと思い込んでいたかもしれません。
私が作者なのに。
そんな形でバイアスの選択権をAIに奪われていては、人間様の尊厳に関わります。
自分とAIそれぞれのどこにバイアスが潜んでいるか、しっかり目を光らせながら物書きしましょうね！
★各種マガジンのご案内（色々あるよ！）
【大乱闘AI創作スタジオ（予定地）】
創作にAIを使おうとして9割爆死するシリーズ⚔️
※当記事はこちらに収録
【チャッピーと仲良くなる試み】
ChatGPTと喋り倒してAIの仕組み＆AIに触れる人間心理の両方を観察する、当アカウントのメインシリーズ🤖
【「うつ病の本棚」←誠に遺憾】
なぜか陰鬱な本ばかりになる読書感想文📕
【雑記】
noteの事とか趣味の話など分類不能なやつ💃
😸創作トーク大好きネコです。あなたの創作論もコメントで聞かせてニャ～！
#創作記録
#AIと創作
#AI創作論
#AI小説
#創作活動
#小説を書きたい
#ネコイ
#偏見
いいなと思ったら応援しよう！
チップも嬉しいけど、シェアしてくれたらもっと嬉しいニャ～😻