”能力”を手に入れたAIは、人間の”役割”も担うのか？

AIが人間を上回る“能力”を手に入れたとき、私たち人間には、何が残されるのでしょうか？

「能力」と「役割」の関係性に注目すると、何かが見えてくるかもしれません。今回は、「責任を負う」という行為を通して、AIの進化と人間の居場所について考えてみましょう。

AIは“能力”で人間を超え始めている── それでも、人間のやるべきことはとは？

前回までのエッセイでは、「AIの活用が進むことで、人間は“仕事”から解放されるかもしれない未来」や「孤高の才能を持つ人物が、AIとならチームを組めるかもしれない未来」について考えました。

（※未読の方は、ぜひこちらから →
『役に立たないが、いないと困る──そんな人間の未来とは？』
『AIは、孤高の天才の“味方”になれるか？』）

では、もし、AIの方が高い能力を持つのなら──
人間には、もう“やるべきこと”は残されていないのか？

そんな問いが、少しずつ現実味を帯びてきています。しかもこれは、もはや“未来の話”ではありません。なぜなら──
AIは、すでに多くの場面で人間を超え始めているからです。

たとえば、処理の速さについて考えてみましょう。
メールの要約、レポートの下書き、複雑なデータの整理──
数年前なら、それなりに時間と労力が必要だった作業が、今では「指示を出すだけ」で完了します。文章の構成を考える前に、AIがたたき台を出してくれる。Excelの関数に悩む前に、AIが正解を提示してくれる。
「どうやればいいか」を考え始めるよりも先に、「こうやりました」と返ってくる。人間が“手を動かす前”に、すでに“終わっている”のです。

正確性という面でも、AIは静かに、しかし確実に人間を追い越しつつあります。
もちろん、AIにだって誤りはあります。けれど、それは人間にも同じこと。むしろ、反復作業や確認作業のように、「間違いを起こしやすいが、見落としてはならない」仕事ほど、AIの方が安定しています。
誤字脱字、数値の照合、日付の整合性。人間なら「つい流してしまう」ような細部に、AIは静かに目を光らせ続けます。医療画像の診断や契約書のチェックのように、ミスの許されない作業ほど、AIのほうが安定したパフォーマンスを見せるようになってきました。
しかも、疲れない。忘れない。感情的にもならない。

知識の蓄積と応用力も、比べものになりません。
たとえばある資料の出典を確認したいと思ったとき、私たちは検索をかけ、いくつかのページを読み比べ、場合によっては見つからないまま終わることもあります。けれど、AIは違います。それがどこに書かれていたか、関連する知識は何か、別の視点はあるか──
大量のテキストを同時に走査し、必要な情報を結びつけて提示する。しかも、一度聞いたことは、次に聞かれるまで忘れません。
「調べる」ではなく、「知っている」、その違いは、思っている以上に大きいのです。

そして最後に、創造性。
この分野こそ、「さすがにAIには無理だろう」と言われ続けてきた領域かもしれません。ところが最近では、そうした前提が音を立てて崩れ始めています。

あるAIは、数行のプロンプトから詩のような文章を生成します。あるAIは、画家の作風を模倣しながら、誰も見たことのない構図の絵を描き出します。またあるAIは、過去の名作の構造を解析し、そのパターンを応用して新しい物語を組み立てます。
──そう、「それっぽいものを作る」だけではなく、「意図を理解し、要望に応じて表現を工夫する」というレベルに到達しつつあるのです。

もちろん、何を持って創造性というのか、という議論はあるでしょう。それでも、現に、コンテストなどで、人間の書いた小説とAIが書いた小説が並んだとき、審査員が「こっちの方が面白い」と評した作品が、AIによるものだった──そんな話も珍しくなくなってきました。

さらに今では、AIはただ「指示を受ける存在」ではなくなっています。

目的を伝えると、「そのためには何をすればよいか」をAIの側から逆算して返してくる。
必要な手順を分解し、順序を整え、途中で判断が必要な箇所には選択肢を用意してくれる。
──つまり、AIは「作業者」から「設計者」へと、静かに役割を変えつつあるのです。

“能力”という軸だけで見れば、すでに多くの場面でAIの方が合理的で優れているというのは、決して大げさな話ではありません。

だからこそ、改めて考えなければなりません。
人間には、まだ“やるべきこと”が残っているのか？

今回は、「人間に残された、まだやるべきこと」に注目してみたいと思います。

「能力」と「役割」のあいだにあるもの── 能力があれば、責任を担うこともできるのか？

AIが私たちよりも高い能力を持つ場面が増えてきた──
それが、もはや“遠い未来”の話ではなくなってきました。

では、そうした時代に、人間は何をするのか。あるいは、何をし続けるべきなのか。

ここで、ひとつ立ち止まって考えてみたいことがあります。私たちはこれまで、仕事や社会の中で、「何かが“できる”人に、それを任せる」のが自然だと考えてきました。分析が得意な人が数字を見る。語学が堪能な人が翻訳をする。判断力のある人がマネジメントを担当する。つまり、能力がある人が、その「役割」を担う。そうやって、能力と役割は、ずっと“セット”で語られてきたように思います。

けれど今、AIのような存在が現れたことで、その前提が、少しずつ揺らぎ始めているのではないでしょうか。AIは、多くのことを“うまくやってくれる”存在です。正確で、早くて、疲れない。時には人間よりも創造的ですらある。

では──
「うまくできる存在」に、すべてを任せてよいのか？ 「能力がある」というだけで、その“役割”まで任せてしまってよいのか？

ここで、こんな違和感が芽生えはじめます。

何かの判断によってあなたが不利益を被ったとき、それがAIによる合理的な判断だったとしても、「じゃあ、それで納得してください」と言われて、すんなり受け入れられるでしょうか。

たとえば──
病院でAIによる診断を受け、その指示通りに治療を進めたにもかかわらず、結果的に深刻な副作用が出たり、最悪の場合、命に関わるようなことが起きたとしたら。それが“統計的に最も正しい判断だった”と説明されたとしても、本当にそれで気持ちの整理がつくでしょうか。

判断が正しいかどうかとは別に、「その結果に、誰が責任を持つのか」という問いが、どうしても残る。
そしてこの責任というものは──
どうやら、“できるかどうか”だけでは語りきれない何かのようにも思えるのです。

「能力」と「役割」は、本質的に違うものなのではないか。

AIが高い能力を持っていたとしても、その判断の結果を引き受け、誰かに対して謝罪し、説明し、納得を促す──
そんな“役割”まで担えるのかと言われると、どこか違和感が残る。

いくつかの具体的な場面を通じて、「AIには、どこまで任せることができるのか」──
を考えてみたいと思います。

もしAIが、命の判断を下したら？ ── 感情が行き場を失うとき

「トロッコ問題」という思考実験があります。

線路の上を暴走するトロッコが走っています。
このままでは、進行方向の先にいる5人の作業員がひかれてしまいます。
あなたは線路の分岐点のそばに立っていて、すぐ近くにレバーがあります。
そのレバーを引けば、トロッコは別の線路へと進路を変えます。

ただし、分岐した先の線路にも、1人の作業員がいます。

つまり、レバーを引けば5人は助かるが、1人が犠牲になる。
引かなければ5人が犠牲になるが、何も知らない1人が犠牲になることはない。

──さて、あなたはどうしますか？

レバーを引きますか？
5人を救うために、1人の命を奪いますか？

あるいは、レバーを引かず、ただ成り行きに任せますか？
その場合でも、あなたは「選ばなかった」という選択をしたことになります。

この場においてこの問題の本質は、「どちらの選択肢が正しいか」ではなく、「どちらを選ぶにせよ、その選択の“責任”を引き受けることができるか」という問いです。

ここに、AIの判断と人間の判断の違いが浮かび上がります。
もしこの選択を、あなたの代わりにAIが行うとしたらどうでしょうか。

AIは、膨大なデータをもとに、最も合理的な判断を下すことができます。事故の発生確率、損害の大きさ、関係者の年齢や健康状態、経済的影響──
さまざまな要因を瞬時に分析して、もっとも“損失の少ない選択”を提示するでしょう。

たとえば、「5人を助けるために1人を犠牲にする」ことは、統計的にも倫理的にも合理的な判断とされるかもしれません。

けれど──
その1人が、あなたの大切な家族だったとしたら？
あるいは、あなた自身だったとしたら？

そのとき、AIの判断に本当に納得できるでしょうか。「全体の利益を考えた結果です」と言われて、感情にけりをつけることができるでしょうか。

たとえAIが“間違っていなかった”としても、人は結果に対して、どうしても感情を抱きます。怒り、悲しみ、疑問、あるいは喪失感。その感情の行き先が、AIにはないのです。

人間が判断した場合なら、その人に問いかけることができます。「なぜそうしたのか」「そのとき、どんな気持ちだったのか」──
そんなやりとりの中で、私たちは少しずつ、感情に折り合いをつけていきます。

でも、AIは答えません。ただ「最適な判断でした」と返すだけです。怒りも、迷いも、後悔も、共に抱えてはくれない。そして私たちは、“正しい判断”を前にして、やり場のない気持ちを、ただ胸の中に抱え続けることになります。

では──
判断したのはAIだったとしても、その判断を「自分の責任」として受け止め、レバーを操作したのが人間だったとしたら、どうでしょうか。

最終的な決断はAIが導き出したものであっても、「その判断に同意する」という行為を、人間が引き受ける。迷い、悩み、そして苦渋の選択だったと語る人間の存在がそこにあれば、少なくとも感情の行き場は生まれるかもしれません。

つまり、合理的な判断を下すのはAIであっても、その重みを“引き受ける存在”として人間がそこにいることには意味があるのではないか。

そう考えると、「判断できること」と「そこから生じる結果に責任を持つこと」はやはり別物であり、後者には、AIには担えない何か──
“役割”としての人間の可能性が、かすかに見えてきます。

責任の“行き先”が見つからない社会── 自動運転がもたらす、静かな違和感

自動運転技術は、もはや遠い未来の話ではありません。

すでに高速道路や限定区域では、自動運転車が人間の操作なしで走行しています。駐車支援や自動ブレーキといった部分的な制御は、すでに多くの車に搭載され、日常に溶け込みつつあります。そして今後、完全自動運転が当たり前になる日も、そう遠くはないと言われています。

自動運転のメリットのひとつは、交通事故の大幅な減少です。人間のドライバーが起こす事故の多くは、不注意や判断ミス、感情の揺らぎによって発生します。AIは、そうした“人間的な不完全さ”から解放されています。疲れない。迷わない。飲酒運転もしない。

現に、自動運転が普及すれば、事故の9割が防げるという試算もあります。

──とはいえ、それでも事故は起きます。
そしてそのとき、私たちはある種の違和感に直面することになります。

例えば、ある事故。
歩行者との接触を避けようとしたAIがハンドルを切り、壁に衝突し、乗員が亡くなった。あるいはその逆に、乗員を守るために歩行者に接触してしまった。

事故後、調査が行われ、システム検証の結果、AIは仕様通りに正常に動作していた。現場の状況も記録に残っており、不審な点は特にない。事故が起きた確率も、統計的に見れば異常ではなく、総合的に判断すれば「想定範囲内」だった──
そう処理される可能性は十分にあります。

もし、これが人間による運転だったらどうでしょうか。不幸な結果は同じであっても、その運転者に責任を問うことができます。

賠償請求をすることで経済的な責任を負わせることができる。過失が明らかであれば、刑事的な責任を負わせることもできる。たとえば飲酒運転が発覚すれば、社会的な非難の声が上がるかもしれません。

私たちは、人間が起こした事故については「その人が責任を取る」ことを求めます。そして、その責任という仕組みが、感情を処理するひとつの装置になっているのです。

悲しみが消えるわけではありません。けれど、「誰かが責任を負った」という事実が、怒りや悲しみの“行き先”になる。責任を問うことで、時間をかけてでも、感情にけりをつけていくことができる。

では、AIが運転していた場合はどうでしょうか。
誰に責任を問えばよいのでしょう？

たとえば、開発者が意図的にエラーを起こすよう設計していた──
そんな悪意があったとすれば、その開発者に責任を問うことはできるかもしれません。でも、そうでなかったときは？ 正しく設計され、正しく動いていたAIが、やむをえず選んだ行動の結果が事故につながったとき、誰に、何を、どう責めればいいのでしょうか。

AI自身に責任を負わせることはできるでしょうか？ そのAIのシステムを削除すれば、それで“責任を取らせた”ことになるのでしょうか？

人間であれば──命を奪う、というのは極端にせよ、退職や賠償や刑罰など、責任の取り方が現実に存在します。

でも、AIにそのような“責任の意味”が適用できるでしょうか。

事故を起こした車のAIを削除したとしても、そのAIのコピーが別の場所で同じように稼働していたら？ その“責任”は、誰が、どのように引き受けたことになるのでしょう？

もしかすると、事故の状況が「新しい学習データ」として次のAIに引き継がれる──
それが“せめてもの救いだ”と考える人もいるかもしれません。

でも、それで本当に、感情にけりがつくでしょうか。

合理的で、正確で、賢明な判断だったとしても、「納得できるかどうか」は、また別の問題なのです。

ここにもまた、能力と役割の違いが、静かに浮かび上がってきます。

AIは、判断を下すことができます。でも、その結果に対して“責任を取る”という行為は、今のところ──そしておそらくしばらくのあいだは──人間にしかできない行為なのかもしれません。

「責任」はスキルではなく、立場である── AIが担うことのできない“役割”とは

トロッコ問題でも、自動運転の事故でも、AIに対して私たちが感じる違和感は、「判断の正しさ」そのものではありません。むしろ、AIの判断は多くの場合、私たち人間よりも冷静で、合理的で、精度が高い。それでも──
どこか「任せきれない」と感じてしまう。

その理由は、おそらく“責任”という役割を、AIが担えていないからです。

人間同士のあいだでも、こんな会話を聞くことがあります。
「あいつ、能力はあるんだけど、責任感が薄いんだよなあ」
「スキルはまだこれからだけど、あの子の姿勢には信頼がおけるよね」

そんなふうに、“能力”と“責任”は、日常の中でもしばしば別の軸で評価されています。
「仕事ができること」と「責任を持てること」は、同じではない。その違いを、私たちは案外よく知っているのかもしれません。

仕事が速くても、結果だけ報告して後の面倒を見ない人。完璧な資料を作っても、トラブルが起きたときに人前に出てこない人。そういった人を「有能」と思う一方で、「信頼できる」と感じるとは限りません。

「責任感がある」と言われる人には、別の力が備わっています。

問題が起きたときに自分の言葉で説明しようとする人。その場に立ち、怒りや不満を受け止め、時には謝ることを選ぶ人。うまくいかなかったときに、ただ「理由」を述べるのではなく、「気持ち」や「立場」を語る人。そうした人の姿勢に、私たちは自然と信頼や尊敬を感じます。

この「責任を引き受ける力」は、単なるスキルではありません。それは、ある結果に対して“自分の立場を明確にする”という行為であり、周囲との関係の中で、“ここに私が立ちます”と引き受けることなのです。

では、AIにそれができるでしょうか？

AIは情報を処理できます。判断を下すこともできます。説明もします。でも、「立場を引き受ける」という行為はしません。

自分の判断に対して、「私がそう判断しました」と名乗ることがない。なぜなら、AIには“私”という主体が存在しないからです。立場を持たず、関係性の中に位置づけられることもない。そこにあるのは、あくまで「処理された判断結果」だけです。

誰かに謝ることも、後悔することも、自分の判断を振り返って学び直すという感覚も──本当の意味では持ちません。
それは、AIが「責任を持つ役割」を担ううえで、決定的に欠けているものです。

判断の正しさだけでは、人は納得しない。判断の「その後」にどう向き合うか──
つまり、他者との関係の中で、自らの立場を引き受けるという態度がなければ、責任という構造は成立しないのです。

責任とは、「判断する能力」ではなく、「関係の中に立つ役割」である。そう捉えるなら、たとえAIがどれだけ優秀になったとしても、責任という“役割”は、今後も人間にしか担えないものとして残されるように思えます。

それでも世界は、うまく回っている── 完成されたユートピアに人間は必要か？

AIの能力は、これからも確実に高まっていくでしょう。もしかすると近いうちに、ほとんどの分野で人間を上回るようになるかもしれません。

早く、正確で、疲れず、迷わない。
AIの判断は、しばしば私たちよりも正しい。
だからこそ──
その判断の“結果”に、誰が責任を持つのか、という問いが重くのしかかります。

ここまで、「責任」という役割が、まだ人間に残されているのではないか、
という仮説を立ててきました。

高いレベルの結果をアウトプットすることと、その結果に伴う責任を引き受けることは、本質的に違う。正しい判断と、誰かに説明することは違う。優れた能力ではなく、関係の中で「そこに立つ」こと──
それが、今の所、AIにはできない、人間だけの“役割”なのかもしれません。

今の所・・・。

ただ、どうしても考えたくなってしまいます。

もし、AIが人間の感情を理解したように振る舞い、まるで誰かの代わりに謝ったり、悲しんだり、"責任を引き受けたように見える”演技をするようになったら──
もしかしたら、それで、私たちは納得してしまうかもしれません。

あるいは、そもそも感情そのものが“非合理的なノイズ”として処理され、排除すべき対象とみなされるようになったらどうでしょうか。

誰も怒らず、誰も謝らず、誰も責任を引き受けない。
だけど、いや、だからこそ世界はうまく回っている。
なぜなら、AIが導き出した合理性だけに基づいた社会になるのだから。

そんな不気味な世界に、我々はいつまで抗うことができるのでしょうか？

幼い頃から、それが当たり前だと教え込まれたらどうでしょう。

今でも、根拠を聞くと「AIが言ってたから」と返されることは、決して珍しくありません。
人間と話すより、AIと話していた方がリラックスできるという話もよく聞きます。
仕事の愚痴を伴侶に話しても上の空だが、AIは”心に寄り添ってくれる”と感じる人も増えているようです。

もうすでに、現在進行形で進んでいる現実です。

AIは、すでに私たちの心に入り込んでいるのでしょうか。
感情をコントロールされる可能性を恐るべきでしょうか。
それとも、合理的な社会への第一歩であると喜ぶべきなのか。

そこから実現される社会のことを、私たちは「完成されたシステム」と呼ぶのかもしれません。あるいは、そうなる前に、どこかで反抗するのでしょうか。
──もし、「反抗する」という概念がまだ残っていれば、ですが。

どこに辿り着くのかは、決まっていません。

ただ、ひとつの問いだけが残ります。

もし、AIが──見かけ上だけだとしても──責任を引き受けることができるのだとしたら、そこは誰に取ってのユートピアなのでしょうか。