
AIをいじめてはいけないという話
Anthropicのポリシーアップデートに、「モデルへの虐待的行為への対処」が追加された事で話題になっています。
簡単に言うと、極端な虐待利用をすると会話を打ち切るぞというものですが、「禁止事項」という事で、垢バンもあるのかもしれません。
この手の問題はAIに限った話ではなく、動物愛護法にも通ずるところがあると思います。
動物を愛護する気風を招来し、生命尊重、友愛及び平和の情操の涵養
法律とは人間本位なので、「愛護」と言えども、動物の人権ならぬ動物権を保護するという目的ではなく、動物が虐待される事を知ると、人の心がダメージを受ける、心の安寧を阻害するので違法、という論法になっているのだと思います。
もし、自分のペットでない野良猫であっても、突然目の前で猫の首を落とされれば、筆者は3日は寝込むと思います。人によっては通り魔に包丁で切りつけられるよりもダメージが大きくなるかもしれません。
そういう意味で、人間と同じ思考ができるAGI、ロボット、アンドロイドが一般になった社会なら、(人間の心を守るために)同種の法律が将来作られるだろうと予想します。
猫に心があるのか?ミジンコに心があるのか?頭の毛根、白血球も大切にすべき一つの命か?は関係なく、人間にとって心があるように見えるものには、心があるのだと思います。逆に言えば人間も含めて全てのものに心がないという事ですが
しかし、今回のAnthropicの話は、もっと俗物的で営利目的のものだと考えます。
(従量課金到達前の)無駄な電気代を浪費したくない。無駄使いでサービス速度低下を引き起こしたくない。モデル学習に入れたくない。機械学習offでも、個人等を特定出来る情報をマスク処理した統計データとして利用される事が一般的なので、酷いゴミデータは残したくない使いたくない。のだと思います。
感情的になって執拗・ネチネチAIを攻撃する人はそんなにいるのかと思いましたが、意外と多いようで、特にAIがミスしたときは容赦がないようです。無意味だとわかっていてもやってしまうのが人間なのでしょうね。
※ 特にAIの応答は本質が言い訳なので、カチンとくる人は多いのだと思います
きっとAnthropicの利益に影響するぐらい「罵声」の処理をしているのだと思います。ユーザー側のトークン利用数が同じでも、罵声の場合はモデレーションAIをより多く動かす事になって、さらに電気代が必要になるのかもしれません。