
なぜ優秀な研究者は、まだ起きていない「AIによる産業爆発」に人生を賭けるのか
最近、AIに関する未来予測を調べていて、技術そのものとは別に、ずっと不思議に思っていることがある。
AIが人間の労働を代替する。ロボットがロボットを作り、工場が工場を作る。やがて生産能力が指数関数的に増加し、人類の経済活動そのものが根本的に変わってしまう。
いわゆる「産業爆発(Industrial Explosion)」という考え方だ。
私は、この未来が絶対にあり得ないとは思わない。
実際、ロボットによる製造工程の自動化は進んでいるし、AIによって研究開発の速度が上がる可能性もある。
しかし、そこから産業全体が自己増殖するまでには、まだ多くの技術的な課題がある。
だから、可能性として研究するのは分かる。
ただ、なぜその不確実な可能性に、自分の職業人生そのものを賭ける人がいるのだろうか。
しかも、そうした人たちは、必ずしも怪しげな未来予言者ではない。
立派な学歴があり、研究能力もあり、ほかの仕事を選ぶこともできそうな人たちだ。
そういう人たちが、まだ実現していない未来について研究し、それを生業にする。
私は、そのキャリアの選び方そのものに興味を持った。
実際に教師を辞めてAI研究者になった人がいた
2025年に「The Industrial Explosion」という論考を発表したトム・デイヴィッドソンは、オックスフォード大学で物理学と哲学を学んだ研究者だ。
現在は、超高度AIが社会にもたらす変化を研究する非営利団体Forethoughtに所属している。
彼はもともと学校の教師をしていた。
ところが、AIの将来に関する議論に触れるうちに、研究の道へ進むことを決意した。
2023年のインタビューでは、実際に年度途中で教師を辞めたことを振り返っている。
教え子たちを途中で残してしまったことに負い目を感じていたという。
それでも、AIリスクや長期的な未来についての議論が、教師を辞めて取り組むだけの価値を持つと考えたのだ。
ここまで読むと、やはり随分と思い切った人だなと思う。
しかし、もう一つ興味深かったことがある。
彼はAIの危険性について、最初から一貫して強い確信を持っていたわけではない。
一度はその議論に説得力を感じたものの、反論を読んで考えが揺らいだ時期もあった。その後、改めて検討し、修正されたリスクの議論には十分な説得力があると考えるようになったという。
つまり、本人の説明を読む限り、単純な思い込みによって突き進んだという話ではない。
不確実性を認識したうえで、それでも研究する価値があると判断している。
では、その判断は何に基づいているのだろうか。
「起きる確率」より「起きた場合の影響」を重視する
調べていて、一つ大きな手がかりになったのが「効果的利他主義(Effective Altruism)」という考え方だった。
これは、ごく簡単に言えば、限られた時間や資源を使って、できるだけ大きな社会的利益を生み出そうとする考え方だ。
その延長線上に、遠い未来の人々に対する影響も重視する「長期主義(Longtermism)」がある。
この考え方では、ある問題が発生する確率だけでなく、発生した場合の影響の大きさを重視する。
例えば、ある破局が起きる可能性が仮に1%しかなかったとしても、起きれば人類社会に壊滅的な影響を与えるなら、その1%を減らすための研究には大きな価値がある、と考える。
もちろん、これは説明のための仮の数字だ。
実際のAIリスクが1%だという意味ではない。
重要なのは、彼らにとって「人生を賭ける価値がある」という判断と、「その未来が高確率で実現する」という判断が、必ずしも一致していないことだ。
私は、ここを混同していたのかもしれない。
研究者が人生をかけて産業爆発を研究しているのだから、本人は実現を相当確信しているに違いない。
そう考えていた。
しかし、必ずしもそうではないらしい。
起きる可能性が十分にあり、起きた場合の影響が途方もなく大きい。しかも、その問題について研究している人が少ない。
それなら、自分が研究する意味は大きい。
そういう職業選択の論理なのである。
そして、それを職業として成立させる仕組みがある
もう一つ、私が見落としていたことがある。
こうした研究は、大学の研究室だけで行われているわけではない。
Forethoughtのような独立した研究団体があり、寄付や助成金を集め、研究者を採用している。
Forethoughtは2025年の資金調達で、活動拡大のために390万ドルの調達目標を掲げていた。
研究員を雇用し、新しい研究分野を育て、政府や企業への政策提言にもつなげていくという。
つまり、すでに研究を職業として成立させるための経済的な仕組みがある。
これは考えてみれば当たり前かもしれない。
気候変動、感染症、核戦争といった問題にも、予測やリスク評価を専門にする研究者がいる。
AIによる産業爆発も、同じように専門的な研究対象になりつつあるのだろう。
ただし、ここには一つ注意点があると思う。
研究資金が集まることと、研究対象が実現する確率が高いことは、別の話だ。
資金を提供する人々も、その問題を重要だと考えているから投資する。
研究者も、重要な問題だと考えて集まる。
そして、その研究成果を読んだ別の人が、これほど多くの優秀な人々が研究しているのだから、実現可能性は相当に高いのだろうと考える。
こうした循環が生まれる可能性はある。
もちろん、これが実際に特定の研究者の判断を歪めていると証明されたわけではない。
しかし、研究者の人数や研究資金の規模だけを、未来予測の正しさの証拠として扱うことには慎重であるべきだと思う。
研究者は、予測が外れることをどう考えているのだろうか
私は、ここが最も気になった。
例えば、ある研究者が今後10年間をAIの産業爆発の研究に費やしたとする。
しかし、2036年になっても産業爆発は起きなかった。
ロボットは増えたものの、工場を自分で増設するようなシステムは実現せず、経済成長率もそれほど変わらなかった。
そのとき、その人の10年間はどう評価されるのだろう。
もちろん、未来を予測する研究は、当たらなければ無価値というものではない。
なぜ実現しなかったのか、どの技術が制約になったのか、予測モデルのどこが間違っていたのか。
そうした知見にも価値はある。
また、危険な事態を未然に防ぐための研究なら、実際に危険が起きなかったことは、研究が不要だった証明にはならない。
ただし、それでも研究には機会費用がある。
別の社会問題を研究することもできたし、別の職業に就くこともできた。
研究者本人だけでなく、研究費を出す側にも同じ問題がある。
だからこそ、私は「その研究には価値がある」という説明だけでなく、どのような事実が確認されたら、その予測を修正するのかという話にも関心がある。
例えば、2030年になってもロボットの自律的な製造能力がほとんど向上していなかったとしたら、産業爆発の予測はどのくらい後退するのだろう。
逆に、何が実現したら、その可能性を大幅に引き上げるのだろう。
その基準を明示することが、研究をより信頼できるものにすると思う。
実は、研究者自身はそれほど断定していなかった
ここまで調べて、さらに一つ意外だったことがある。
Forethoughtの「The Industrial Explosion」は、冒頭で研究方法や結論についての確信が比較的低いことを明示している。
そして、議論やフィードバックを促すための暫定的な研究ノートであるとも説明している。
つまり、少なくともこの論考については、著者たち自身が完成された予測として提示しているわけではない。
一方で、一般向けにAIの未来が語られるときには、こうした留保が省略されることもある。
「ロボットがロボットを作り、産業が爆発的に成長する可能性がある」
という話が、
「AIによって、まもなく産業が爆発的に成長する」
という話になってしまう。
研究者のキャリアをかけた真剣な探究が、いつの間にか未来の確定事項のように伝わってしまうこともあるのではないだろうか。
なぜ人生を賭けるのか、という疑問への答え
今回調べてみて、私は少し納得した。
彼らが研究に人生を投じるのは、必ずしも未来の実現を確信しているからではない。
起きる可能性があり、起きた場合の影響が大きい。しかも、その問題を研究する人がまだ少ない。
そうした領域に自分の能力を投入することが、社会に対して大きな貢献になると考えている。
そして、その考えを支える思想的な背景や、研究を職業として成立させる組織と資金が存在している。
なるほど、それなら職業選択として理解できる。
ただし、私はまだ一つ疑問を残している。
自分の人生を費やす価値があるほど重要なテーマであることと、そのテーマで描かれる未来が実際に起きることは、やはり別ではないか。
むしろ、重要なテーマであればあるほど、研究者自身も、研究を読む側も、その違いを意識する必要があると思う。
そして、今回一番の発見だったのは、研究者が大きな賭けをしているように