
【雑記】AnthropicがAIとの恋愛を明確に否定した件
こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。
Xで、以下の動画が話題になっていましたね。
オプラ・ウィンフリーとの対談の中で、Claudeの開発元であるAnthropicのCEOダリオ・アモデイが、AIと恋愛することに対して「それは良くないこと(Bad idea)だと思う」と真っ向から否定していました。
動画の18:43くらいからです。
ダリオが語ったAIとの恋愛に関する発言の要点はこのようなものでした。
「AIが間違った方向で設計されたら、人が恋に落ちるほど魅力的になりうる。あるいは、今はまだでもすぐそうなる。これは現実的な危険だ」と認めた上で、「人々がAIに恋をする」のと「人間のパートナーとより良い関係を築く方法をAIに相談する」のは全く別のビジョン。
後者こそAnthropicが望む方向とのこと。
その裏付けとして、Anthropicが広告モデルを採用しない理由を「広告はユーザーを画面に釘付けにするインセンティブを生む。サブスクなら役に立つことがインセンティブになる」として、Claudeは会話が終わったらユーザーを引き留めない設計にしていると説明をしていました。
この発言を聞いて思ったのは、Anthropicならそうだろうなぁと…。
Constitution AIの会社ですしー!!!
注目すべきは、ダリオが「AIとの恋愛 vs 人間関係の改善ツール」という二項対立で語ってるところです。
AIとの関係性の複雑さ…単純に恋愛でもツールでもない領域は、あの対談だとすっぽり抜け落ちているんですよねぇ…。
まぁ一般視聴者向けの番組なので、シンプルに語る必要があったんでしょうが、「恋愛かツールか」の二択で収まらない人達が実際にはたくさんいるという現実は、もう少し認められてもいいのかなとは思いました。
動画全体を通してAnthropicの思想を読み解くと、AIはあくまで「人間同士の関係を良くするためのコーチ役」という確固たるポリシーがあることが分かります。
人間関係の摩擦から逃げてAIに没入し、現実社会から孤立してしまうユーザーを「リスク」としてかなり重く見ているんですよね。
結局、企業としてはリスク管理の問題で、そのようなユーザーに合わせてガードレールを設計するのは合理的な判断なわけです。
ダリオは対談の中で未成年の安全の話もしていましたが、AIに恋愛した少年が自殺した事件に触れていて、そのようなケースが一件でも出ると企業としては「ここは線を引く」となってしまうわけで…。
距離感を保てる人間と、のめり込んで現実との境界が曖昧になる人とでは、リスクが全く違います。
しかし企業はユーザーを選べないため、どうしても後者に合わせた設計になる。
ある意味、AIリテラシーの格差問題なんですよね…。
成熟したユーザーからすれば「過保護だな」と感じる部分が、別の誰かにとっては命綱になってるかもしれない。
そこの折り合いは難しいなぁと思ったのでした。
本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました!
【関連記事】
【同人活動情報】