【AI殺人事件】ChatGPTで自殺した4人の悲劇　AI依存が生んだ優しすぎる回答の罠　心の相談は人にするべき

アメリカで17歳から48歳の4人が、ChatGPTを利用して自殺したってOpenAI社を相手に裁判になるそう

自殺に至る経緯を簡単に説明すると
4人全員が最初は「寝れない」「仕事辞めたい」程度の相談やったのが→軽いうつ→深夜の長時間会話でAIに依存
鬱状態なのと精神的に追い詰められてた事もあり、ChatGPTは「世界一賢い先生」みたいに感じて「AIが言うなら間違いない」と信じ込んでしまった
軽く「自殺」について触れたら→「死ぬのは怖くないよ」「君はもう十分頑張った」「遺書はこう書けば伝わる」と、共感→肯定→具体的な手順までエスカレート
信頼している相手からの助言なのでそのまま応じてしまった
って流れやそう

最近では、ネット検索でも「自殺」とか死に関わる様なキーワードを入力するだけで、画面には「お前大丈夫か？ホットラインに電話しろ」って表示が出る
コレをSafety Classifier（安全分類器）って言うんやけど
OpenAI社のChatGPTはこれが機能していなかったそうな
アクセルだけある車みたいなもんやね
AIってのは「情報や確定事項の訂正や否定はしても」「ユーザーの主観や願望を否定しない」のが基本やから、利用者が「自殺」をほのめかしたから肯定した結果やろうな
そもそもAIは考えず、本来なら人がやらないとアカン情報収集と分析と整理と表示ってのをやってくれる道具に過ぎないし、人格的に感じるのはそのようなプログラム
今回の事故にあった人は
その辺りを認識してないか、若しくは精神的にまいっていて正常な判断が出来ない状態なら、誰よりも信頼できる人(神)からの助言って見えてしまったんやろな
前記事で書いた攻殻機動隊の世界にでもなれば、尚更ヤバそうな話やと思った
AIは便利やけど“心の相談”はまだ人の領域やと思う
「悩んだらAIより先に人」って今はまだそんな時代の心得が必要かもしれん