AIに神様をやらせようとする人類の傲慢

「五人を救うために、一人を犠牲にしてもよいか」――この問い、聞いたことありますよね？トロッコ問題です。でも、今この問題が現実になろうとしているんです。

自動運転車が事故を避けられない瞬間、AIが「命の重さ」を判断する。そんな時代が来ています。でも、ちょっと待ってください。人間にも答えられない問題を、AIにだけ解かせようとしているって、おかしくないですか？

私たちは、自分たちが解決できていない問題を、AIに託そうとしている。これは、倫理判断だけでなく、公平性や創造性といった様々な領域で繰り返されていることなんです。

完璧な倫理を求める心理の罠

人間の倫理判断って、曖昧で、文脈に依存するものなんです。文化や価値観によって答えが異なり、一つの「正解」を見出すことは困難です。なのに、「AIなら正しい選択をするはずだ」と期待する声は少なくありません。

でも、AIに「完璧な倫理」を求めることは、私たち自身の不完全さを外部に押しつけているだけなんじゃないでしょうか。トロッコ問題が人間社会のジレンマを映す鏡だとすれば、自動運転車の議論は、「AIに神のような判断を委ねたい」という現代の願望の反映といえるでしょう。

実際、自動運転の実装では、人間の関与度を明確に設計する必要があります。HITL（Human-in-the-Loop）では人間が毎回判断に入り、HOTL（Human-on-the-Loop）では人間が監督席で待機し、HOOTL（Human-out-of-the-Loop）では完全自律となります。でも、いずれのモデルであっても、最終的な責任と判断は人間が負うべきものです。

このような人間の関与モデルの議論は、自動運転における人間の関与モデルとして広く検討されており、AIに完全に判断を委ねるのではなく、人間がどの段階で関与すべきかが重要視されています。

完全な公平性という幻想

同じ構造の過剰期待は、他にも見られます。たとえば「AIは差別をしてはいけない」という主張です。もちろん理想としては正しいのですが、人間の社会そのものが偏りを抱えている以上、「完全な公平性」は誰にも実現できないのではないでしょうか。

AIだけにその潔白を求めるのは、人間の影を見たくない心理の裏返しかもしれません。

実際、中国の囲碁教室で行われた研究では、AI教師と人間教師による指導効果を比較しました。AI教師は性別に関係なく中立的に指導するよう設計されており、特に女子生徒の成績向上が顕著で、男女の差が大きく縮まりました。一方で、人間教師は無意識のうちに「女子は男子より能力が劣る」といった先入観を持ち、それが態度や指導方法に表れていたことが映像分析から明らかになっています。

この事例は、AIが公平性を実現できる可能性を示す一方で、その前提には人間社会の偏見が存在していたという事実も同時に浮き彫りにしています。AIだけに完全な公平性を求める前に、まず人間社会の偏りを認めることが必要なのではないでしょうか。

創造性への誤解

あるいは、「AIには創造性がない」「オリジナリティが足りない」といった批判も同様です。でも、人間の芸術もまた、過去の模倣と再構成の上に立っているのではないでしょうか。

AIがデータをもとに作品を生み出すことを責めるのは、人間自身の創造の仕組みを誤解していると言えるかもしれません。確かにAIの発想は既存の情報の組み合わせにすぎませんが、人間の創造性も同様の側面を持っています。重要なのは、その背後に「なぜそれを思いついたのか」という人生の動機や、生きることの根源に結びついた思考があるかどうかではないでしょうか。

AIが瞬時に大量のアイデアを生成できる時代において、人間の創造性は「量」から「意味」へと重心を移しています。技術的な能力ではなく、人間らしい体験と感情に根ざした思考力が、いま改めて問われているのです。

たとえば、スターバックスの創業者ハワード・シュルツは、イタリアのカフェ文化に触れた体験から、アメリカに「第三の場所」としてのカフェ文化を根付かせました。これは単なるビジネスアイデアではなく、彼の人生体験と価値観が結びついた「生きた必然」から生まれた創造でした。AIには、このような人間の体験に根ざした創造の動機を再現することは困難です。

AIは私たちを映し出す鏡

AIは、私たちの願望と不安を映し出す鏡であるといえるでしょう。倫理、共感、公平性、創造性――どれも人間がいまだに完全に解けていない問題です。

AIが「できない」と批判する前に、まず人間ができていないことを認める勇気が必要ではないでしょうか。

実際、自動運転AIのハルシネーション問題は、AIに「完璧な判断」を期待することの困難さを如実に示しています。E2E（エンドツーエンド）モデルの自動運転では、AIが間違った情報や判断を生成する可能性があり、その原因を特定することが難しいのです。実在しないオブジェクトを誤検出したり、実在物を見落としたりするリスクは、技術的な限界として存在しています。

このような技術的な問題も、結局のところ、人間の期待の高さを反映しているのではないでしょうか。AIに完璧を求めることは、私たち自身が抱える倫理的・社会的な問題から目をそらすことにつながるかもしれません。ブラックボックス化したAIの判断を「完璧」と信じることで、人間が考える責任から逃げている――そう指摘されても仕方がないでしょう。

人間の責任を考える

AIに万能を求めることは、私たちが考えることをやめる口実にしてはならないでしょう。自動運転では、人間の関与度を明確に設計し、最終的な責任と判断は人間が負うべきです。HIC（Human-in-Command）――つまり、ルール・方針・最終決裁は人間が行い、AIは助言・実行の役割を担うという考え方が重要です。

トロッコのレバーを握る手は、今も私たち自身のものです。AI技術がどれだけ進歩しようとも、倫理的判断の最終責任は人間が担うべきであり、それをAIに委ねることはできません。

ただし、これは単に「AIを使わない」ということを意味するわけではありません。むしろ、AIの限界と可能性を正確に理解し、人間とAIの役割分担を明確にすることが重要なのです。自動運転におけるHICモデルのように、ルールや方針を人間が決め、AIはその実行を助ける――このような協働関係が、AI時代における現実的な答えなのではないでしょうか。

AI時代において、私たちに求められているのは、完璧なAIを開発することでも、AIに完璧を期待することでもありません。不完全な人間として、どのようにAIと向き合い、ともに生きていくかを考えることなのです。