なぜ「一番正しい判断」が、一番冷たく感じられるのか
会議で、一番筋の通った意見を言った人が、なぜか浮いてしまう。
そんな場面を見たことはないでしょうか。
正しいはずなのに、どこか冷たく感じられる。
論理と気持ちの間には、何があるのでしょうか。
正しさだけでは測れないもの
「あの人の言うことは正しい。でも、なんだか冷たい」
そう感じたことがある人は、少なくないはずです。
感情を交えず、純粋に合理的な判断をする人ほど、そう見られがちです。
けれど、その人が悪意を持っているとは限りません。
理性を優先しているだけで、悪気はないのかもしれません。
では、純粋な合理性だけを突き詰めたら、何が起きるのでしょうか。
それを人類史上もっとも極端な形で体現した人物がいます。
京都を選んだ計算
ジョン・フォン・ノイマン。
数学、物理学、経済学、あらゆる分野に革命を起こした天才です。
第二次世界大戦中、彼はマンハッタン計画に加わりました。
原爆の投下先を検討する会議で、彼はある都市を推薦したと伝えられています。
京都です。
理由は、京都が空襲の被害をほとんど受けておらず、建物が無傷に近かったからでした。
無傷の都市であれば、爆発の破壊力を正確に測定できる。
純粋にデータの精度という観点から、最適な標的だったのです。
最終的に京都は、当時の陸軍長官が個人的に思い入れを持っていたという理由で、標的から外されました。
計算ではなく、一人の人間の思い入れが、京都を救いました。
同僚たちは、フォン・ノイマンをこう評したといいます。
「彼だけは、私たちの中で完全な人間ではない。ただ、人間を演じることを、とてもよく勉強した」
計算は、どこまでも正しくあれます。
けれど、正しさだけでは、守れないものがあったのです。
AIにも、同じ問いが向けられている
今のAIは、与えられた目的関数を、ひたすら最適化するように作られています。
「精度を上げる」「効率を上げる」「利益を最大化する」
その目的だけを追えば、フォン・ノイマンの京都と同じ答えにたどり着くことがあります。
もっとも合理的な選択が、もっとも冷たい選択と重なってしまう瞬間です。
だからこそ、AIに人間の価値観を組み込む「アライメント」という課題が、今、世界中で議論されています。
正しい計算に、何を付け加えるべきか。
その答えを、まだ誰も完全には持っていません。
それでも、何かを選び取る人がいる
京都を救ったのは、計算ではありませんでした。
一人の人間の、個人的な思い入れでした。
合理性だけでは届かない場所に、人は判断を下すことがあります。
あなたの職場で、一番合理的な意見を言った人は、本当に間違っていたでしょうか。
それとも、正しさの他に、何かが足りなかっただけでしょうか。
もし目の前のAIが完璧に正しい答えを出したとして、あなたはそれだけで納得できるでしょうか。
→ Podcast で深く聴く｜ハルとおじいさん 第7部第4話
ハルとおじいさん YouTube チャンネル → https://www.youtube.com/@ManabiMap
#フォンノイマン #マンハッタン計画 #京都 #ゲーム理論 #原爆投下
#合理性と倫理 #科学史 #天才の思考法 #ノイマン型コンピュータ #核抑止
#AIアライメント #生成AI #人工知能 #価値観の設計
#考察 #読み物 #大人の学び #エッセイ
#ハルとおじいさん #学びの地図 #ManabiMap
