AIはどこへ向かうのか 後編｜AIは減速できるのか ――シンギュラリティを「予測する」時代から「調整する」時代へ
前編では、孫正義氏が描く2040年の「ASI Economy」について書きました。中編では、その世界でAIが自律して動くようになったとき、人間をどこに残すのかを考えています。
そこで出てきたのが、Human in the Loopだけではたぶん足りない、という話です。AIの一つひとつの判断に人間が入るのではなく、AIがどこまで動いてよいのか、その範囲自体を人間が先に決める。Human over the Loopという考え方は、そのためにあるのではないか、というところまで書きました。
ところが、その記事を書いている途中で、今度は少し違う動きがかなり大きく報じられるようになりました。
AIの判断をどう統制するかではなく、AIの進化速度そのものを人間が調整しようという話です。
「AI減速」という言葉でも紹介されていますが、私は少し違和感がありました。ブレーキを踏むこと自体が目的というより、AIの能力向上に対して、人間側の安全対策や制度づくりが追いつく時間を確保しようとしている。
英語では「Pacing the Frontier」。
この「ペーシング」という言い方の方が、今回の議論には合っているように思います。
Dario Amodei氏の「We Must Pace the Frontier」
9月、AnthropicのCEOであるDario Amodei氏が「We Must Pace the Frontier」という文章を発表し、AIの能力向上と安全対策の速度を合わせる必要があると主張しました。
この発言自体がかなり大きく報じられたので、私も関連する情報をいくつか追ってみました。その中で読んだのが、okuokuchannelさんのnote記事「AnthropicのCEOがAI減速を宣言、ライバル4社も数日で同意。」です。
この記事を読んで、Amodei氏が何を問題にしているのかに加えて、OpenAI、Google DeepMind、xAIなどの競合企業がどのように反応しているのか、その全体像がかなり分かりやすく整理できました。
AIには医療や科学などで大きな恩恵が期待できる一方、サイバー攻撃や生物兵器への悪用、あるいはAIそのものを人間が十分に制御できなくなるリスクもある。そのため、安全側の準備が追いつかないまま能力だけが上がり続ける状態はまずい、という問題意識です。
ここで少し驚いたのは、Anthropicだけの話で終わらなかったことでした。
普段はかなり激しく競争している企業のトップからも、短期間のうちに同じ方向の発言が出ています。
世界で最もAIを先に進めたいはずの人たちが、「このままの速度で進めてよいのか」と言い始めている。
このあたりから、少し前までのAI論議とは空気が変わってきたように感じました。
なぜ、自分で自分に制約をかけようとするのか
その構造をもう少し分かりやすく整理していたのが、同じ筆者の別の記事「なぜAI企業のCEOたちは、自分で自分に手錠をかけようとしているのか」です。
こちらを読んで一番腑に落ちたのが、「一社だけでは降りられない」という話でした。
AI企業が激しく競争している中で、自分の会社だけ安全性を理由に開発速度を落とせば、ほかの企業に追い抜かれる可能性が高い。仮に各社が同じ不安を持っていたとしても、個別には速度を落としにくいということです。
それなら、政府や第三者による監視、あるいは企業間の相互検証など、全員がある程度同じ条件でペースを調整できる仕組みを作るしかない。
「自分で自分に手錠をかける」という表現は少し強いですが、言いたいことはよく分かります。自社だけを縛るのではなく、競争相手も含めて同じルールに入れてほしい。そうしないと、安全性を重視した企業だけが競争上不利になるからです。
この2本の記事を続けて読んでいて、私はシンギュラリティをめぐる議論そのものが少し変わってきたのではないかと思いました。
「いつ来るのか」から「いつ来させるのか」へ
シンギュラリティという言葉は、かなり前から使われています。
AIが人間の知能を超え、その後の技術進歩を人間が予測しにくくなる転換点。それが2045年なのか、もっと早いのか、そもそも本当に来るのか、といった議論をこれまではよく見てきました。
振り返ると、かなり受動的な議論だったように思います。
技術はどんどん進歩していく。その流れ自体は所与のものとして受け止め、その延長線上にある転換点がいつ来るのかを人間が外から予測する。
ところが今回のペーシング論は、その前提を少し変えています。
人間がAIの進歩速度に、ある程度意図的に介入しようとしているからです。
もちろん、「シンギュラリティは2038年にしましょう」と人間が日付を決められるわけではありません。そこまで自由に制御できるとは思いません。
ただ、その地点に向かう速度を少しでも調整できないか、という議論にはなってきている。
私はここが、かなり大きな変化ではないかと思います。
AIがAIを作る段階が見え始めた
なぜ今になって、こういう話が出てきたのか。
理由はいくつもあるでしょうが、その一つに、AI自身がAI開発を担う段階が見え始めていることがあります。
先ほどの「なぜAI企業のCEOたちは、自分で自分に手錠をかけようとしているのか」でも、AI自身がAIの研究開発を行う段階への懸念が取り上げられていました。
人間がAIを改善するのではなく、AIが次のAIを作る。そのAIがさらに次のAIを作るようになると、能力向上の速度そのものが速くなっていく可能性があります。
ここで前編の孫さんの話を思い出します。
孫さんも、AIの「自己増殖」「自己進化」をかなり重要な要素として話していました。AIがAIを作り、自分自身を改善していくことが、ASI Economyを大きくする力になるという見方です。
一方で、Amodei氏たちは、ほぼ同じ現象を見ながら、その速度に人間側が追いつけるのかを気にしている。
孫さんは、その先に広がる経済規模を見ている。Amodei氏は、そこへ向かう途中の速度を見ている。
私は、どちらかが正しくてどちらかが間違っている、という話ではないと思っています。
むしろ両方を並べてみると、いまAIをめぐって何が起きているのかが少し見えやすくなります。
ペーシングは「止める」ことではない
今回の議論を「AI開発を止めよう」という話として受け取ると、少し違います。
Amodei氏自身も、AIが医療や科学などにもたらす恩恵をかなり高く評価しています。AIそのものに否定的なわけではありません。
Pacingという言葉の通り、問題にしているのは速度です。
たとえば、AIの能力向上が100の速度で進んでいるのに、安全対策や制度づくりが20でしか進んでいないとしたら、その差をどうするのか。
安全側をもっと速くすることも必要でしょう。
それでも追いつかないのであれば、AI側を少し遅くする。
最初の記事で使われていた「社会がAIに追いつくための時間を稼ぐ」という説明が、私は一番分かりやすいと思いました。
そう考えると、「AI減速」より「AIペーシング」と呼ぶ方がしっくりきます。
減速が目的ではなく、追いつく時間を作るための速度調整だからです。
ただ、一社でも一国でもできない
ここから先は、かなり難しい話になります。
企業だけを見ても、一社だけ速度を落とすことは難しい。国に広げると、もっと難しくなります。
米国が安全を優先してAI開発を遅らせても、中国がそのまま進めれば、安全保障上の問題が出てくる。
逆に、中国側から見ても同じでしょう。
全員が同時にペースを調整できればよいのでしょうが、その「全員」をどう確認するのか。本当に相手も同じように速度を落としているのか、抜け駆けしていないかをどう検証するのか。
そこまで考えると、企業の自主ルールだけで済む話ではありません。
少し前までAIの安全性というと、モデルそのものをどう安全にするかという話が中心だった印象があります。
今は、企業間や国家間で、開発状況や能力向上のペースをどう検証するかという話にまで広がっています。
これは中編で書いた「ガバナンスをシステムとして実装する」という話にもつながっています。
Human over the Loopの、さらに外側
中編では、Human over the Loopについて書きました。
AIの個別判断を全部人間が確認するのではなく、AIがどこまで動いてよいのか、その境界線を人間があらかじめ決めておく考え方です。
今回のペーシング論は、もう少し外側の話に見えます。
AIに何をさせるかだけではなく、AIがどの速度で能力を獲得していくことを許すのかまで、人間が関与しようとしているからです。
AIの行動を統制するところから、AIの進歩速度そのものを統制するところへ話が移ってきている。
こんな話を数年前に書いたら、かなりSFっぽく見えたと思います。
ところが今は、実際にAIを開発している会社のCEOたちが、その話をしている。
そこがやはり気になります。
本当に人間が速度を決められるのか
もちろん、ここまで書いたからといって、人間がAIの進歩速度を自由に決められるとは思っていません。
企業同士の競争がありますし、国家間の競争もあります。オープンソースの開発もあるので、一部の大手AI企業だけが合意すれば全体をコントロールできるわけでもありません。
誰が「ちょうどよい速度」を決めるのか、という問題もあります。
AI企業なのか、政府なのか、研究者なのか。しかも、その判断をする人たち自身が、AI開発の当事者でもあります。
考え始めるとかなりややこしいですし、簡単な答えが出る話ではなさそうです。
それでも、今回の動きには一つ大きな変化を感じます。
これまで、シンギュラリティは「いつ来るのか」を外から予測する対象でした。
いまは少なくとも一部の人たちが、その地点へ向かう速度そのものを人間の統治対象として考え始めている。
「シンギュラリティの到来時期を人間が決める」とまで言うと、やはり少し言い過ぎでしょう。
ただ、シンギュラリティへ向かう加速曲線に、人間が意図的に介入しようとしているとは言えそうです。
前編で書いた孫さんの2040年論では、その加速を前提に、今から半導体やデータセンター、電力などを準備するという話でした。
中編では、その世界でAIの自律性をどこまで許すのかを考えました。
今回のペーシング論は、そのさらに手前で、「そもそもどれくらいの速度でそこへ向かうのか」を人間が調整できないか、という話です。
三つの記事を書いてきて、私自身、最後はAIの能力そのものより、こちらの方が気になってきました。
人間は、自分たちで作った技術の進歩速度まで本当に統治できるのか。
まだ何とも分かりません。
ただ、「シンギュラリティはいつ来ますか」と予測していた時代とは、少し違うところに来ている感じはしています。
