
AIが宇宙船を操縦する時代、人間の船長には何が残るのか?
皆さん、ご安全に!! 技術屋たかちゃんです。
AIの進化を見ていると、昔見たSF作品を思い出します。
『ミニスカ宇宙海賊』と『宇宙戦艦ヤマト』です。
作風も時代背景も異なる二つの作品ですが、共通して考えさせられることがあります。
それは、AIが高度な仕事をこなすようになったとき、人間には何が残るのか、という問いです。
今回は、この二つの作品を手がかりに、AIと人間の関係を考えてみます。
船長は、自分で船を操縦しなければならないのか
『ミニスカ宇宙海賊』の主人公は、ごく普通の女子高生でした。
ところが、亡くなった父親の部下を名乗る二人が現れ、宇宙海賊船の船長を継ぐよう求められます。
突然、宇宙海賊の船長です。
昨日まで学校に通っていた女子高生が、いきなり宇宙船の乗組員を率いることになる。なかなか大変な就職先です。
彼女は経験のない世界に飛び込み、乗組員たちと向き合いながら船長として成長していきます。
この作品を見ていて、私は船長の仕事について考えました。
船長は、船の機械をすべて自分で操作する必要はありません。航行は航海士に、機関は機関士に任せればいい。
船長に求められるのは、状況を把握し、仲間の能力を生かし、進む方向を決めることです。
AIが航行操作や情報収集、危険予測まで担当する未来になっても、この役割は残ります。
船を動かす能力と、船をどこへ向かわせるかを決める能力は別物だからです。
AIが突きつけた、合理性の落とし穴
もう一つの『宇宙戦艦ヤマト』には、AIアナライザーが登場します。
人類の存続を目的とした計画に基づき、AIはヤマトの救出を断念するよう求めます。
人類全体の存続を優先するなら、ヤマトを見捨てる判断にも合理性はあります。
しかし、艦長にとって、それは簡単に受け入れられる命令ではありません。
目の前の仲間を見捨てて全体の生存を優先するのか。それとも救出に向かうのか。
いわゆるトロッコ問題です。
艦長は最終的にAIを破壊し、指揮権を取り戻します。
この場面で考えさせられるのは、AIの計算能力ではありません。
AIが導き出した答えが、必ずしも人間の望む答えになるとは限らないことです。
AIは与えられた目的や条件に従って、合理的な解を導きます。しかし、その目的そのものが正しいかどうかまで、計算だけで決められるわけではありません。
何を守るのか。誰を優先するのか。
その判断には、人間の価値観が入り込みます。
工場のAIに、安全より生産性を優先させてよいのか
この問題は、SFの世界だけの話ではありません。
現実の製造現場でも、AIによる生産条件の最適化や設備の異常検知が進んでいます。
例えば、工場のAIが生産速度を上げる運転条件を提案したとします。
生産量は増え、稼働率も改善する。画面には緑色のグラフが並び、現場の数字だけを見れば成功です。
ところが、その条件で作業者の安全が損なわれるとしたらどうでしょう。
安全装置の動作頻度が増える。機械の停止距離に余裕がなくなる。作業者が危険区域に近づく機会が増える。
生産効率が上がったからといって、その条件を採用してよい理由にはなりません。
AIに最適化を任せることと、判断まで任せきることは違います。
効率と安全が衝突する場面では、数字だけで答えを出せないことを実感します。
AIが提案した条件を検証し、採用するかどうかを判断する。その責任までAIに預けるわけにはいきません。
AI時代、人間は何を担当するのか
二つのSF作品を振り返ってみます。
『ミニスカ宇宙海賊』の船長は、仲間の力を生かして船を導きました。
『宇宙戦艦ヤマト』の艦長は、AIの合理的な判断に対して、自分たちが守るべきものを選びました。
どちらにも共通するのは、船長がすべての作業をしているわけではない。たとえば、AIが情報を集め、分析し、計画を立て、実行する。
船長は、その目的が妥当なのか、結果を受け入れてよいのかを判断する。
私はAIを積極的に使いたいと思っています。
相棒のAI(アイ)君にも、面倒な調査や情報整理をどんどん任せたい。
ただし、最後の判断まで丸投げするつもりはありません。
AIが出した答えに対して、「なぜ、その答えになったのか」「本当にそれでいいのか」と問い続けたいのです。
AIが宇宙船を操縦するようになったら、船長は操縦桿を握る必要がなくなるかもしれません。
それでも、船の行き先を決める人間は必要です。
窓の向こうには、無限の銀河が広がっています。
さて、次はどの星を目指しましょうか。
技術屋たかちゃんでした。ご安全に!!