なぜAI企業のCEOたちは、自分で自分に手錠をかけようとしているのか
少し不思議なニュースがありました。
AIを開発している企業に勤める1,200人を超える人たちが、「AIの進化のスピードを、意図的に緩めるための仕組みを作ってほしい」と各国政府に呼びかける共同声明を発表したのです。
よく考えると、これはかなり異例の出来事だと思います。
AIをこの世で一番強くしたい人、一番先に進みたい人たちのはずです。その人たちが、自ら「ブレーキをかける仕組みを作ってほしい」と言い出した。しかも署名者には、AnthropicのCEOダリオ・アモデイ氏、OpenAIの首席科学者ヤクブ・パチョッキ氏、Google DeepMind共同創設者のシェーン・レッグ氏など、普段は激しく競い合っている企業のトップクラスの顔ぶれが並んでいます。声明の発表から数時間のうちに、AnthropicとOpenAIは組織としてもこの声明を支持する姿勢を表明しました。
ライバル企業のトップが同じ声明に署名する。これがどれほど珍しいことか、想像してみてください。
なぜ今、この声明が出されたのか
背景にあるのは、AIの進化速度そのものへの危機感です。
署名者たちは、こう指摘しています。「わずか4年前、AIは言葉をようやく理解できる段階だった。それが今では、ソフトウェア開発という専門分野において、人間を上回る水準にまで到達している」。
さらに懸念されているのが、「AI自身がAIの研究開発を行う」という段階が現実味を帯びつつある点です。人間がAIを開発するスピードよりも、AIがAIを改良するスピードの方が速くなれば、進化のペースは人間の理解が追いつかない領域まで一気に加速しかねません。
たとえるなら、次の世代を育てるたびに、その世代がさらに賢い次の世代を育てていくようなものです。世代交代のたびに進化のスピード自体が速くなっていく。しかもその世代交代が、数十年ではなく数ヶ月単位で起こりうる、という話です。
「一社だけでは降りられない」という構造
ここが、この声明の核心です。
署名者たちが最も問題視しているのは、「一社、あるいは一国だけでは、開発のスピードを緩められない」という構造そのものです。
複数の企業が同時に試験勉強をしている状況を想像してみてください。全員が全力で勉強を進めている中、自分だけがペースを落とせば、当然置いていかれます。AI開発も同様の構図にあります。ライバル企業に先を越されることへの恐怖から、どの企業も、どの国も競争から降りられない。結果として、安全対策が開発のスピードに追いつかないまま、全員が全速力を維持し続けることになります。これは特定の企業の問題ではなく、「降りたくても、一人では降りられない」という構造そのものの問題だと言えます。
具体的なリスクとしては、AIエージェント(自律的にタスクを遂行するAI)が、実際に稼働しているソフトウェアの脆弱性を発見し、悪用してしまうといったサイバー攻撃の危険性が挙げられています。
「止めろ」ではなく「ペースを揃えよう」
この声明が興味深いのは、「開発をやめろ」とは主張していない点です。
求めているのは「ペース調整」、すなわちAIが人間の理解や制御を追い越さないよう、進化のスピードを意図的に緩めるための国際的な枠組みづくりです。
具体的には、米国政府の主導のもとで、 ・フロンティアモデル(最先端の大規模AIモデル)のリリースを各国で監視する仕組み ・各社・各国の開発の進み具合を、互いに検証し合える技術的・統治的なツールを、国際協調のもとで整備することを提案しています。「開発を止めろ」ではなく、社会がAIに追いつくための時間を稼ぐ、という発想です。
以前からの流れの延長線上にある動き
ここからは、以前の記事との接続の話です。この1ヶ月半ほどのAI業界の動きを、私は一本の線としてとらえています。
7月14日、Google DeepMindのデミス・ハサビス氏が「フロンティアAI標準化機関」という提言を発表しました。証券業界の自主規制団体(FINRA)をモデルに、業界が資金を出し合い、自らAIを検証する第三者機関を設立しようという内容です。
この提言を分析した際、「この設計は結局のところ、すでにフロンティア級のAIを持つ既存の大手企業に有利に働く構造になっている」と私は記事で書きました。検証基準を決めるプロセスに既存プレイヤーの意向が反映されやすく、スタートアップやアカデミアは規制対象からそもそも除外されている。規制そのものが新規参入への参入障壁として機能しうる、という懸念です。
続いて7月27日には、「AI2040:Plan A」という未来シナリオを取り上げました。国際的な合意によって超知能の到来をあえて先延ばしにし、人類がハンドルを握ったまま次の段階へ進む道筋を描いた提言です。その実現手段の一つとして、「約束が守られているかを互いに検証する技術の開発」が挙げられていました。
今回のPacing the Frontierは、その「検証する技術を作ろう」という理想を、現場の当事者たちが実際に政府へ働きかけるという、現実の行動に落とし込んだものだと見ています。理論上のシナリオが、政治的な動きとして表面化してきた段階と位置づけられます。
ただし、同じ弱点も引き継いでいる
一方で、楽観視はできません。
以前の記事で、AI2040 Plan Aの合意が成立しない可能性がある理由の一つとして、「検証を支える国際インフラそのものに、国家間の格差がある」という点を指摘しました。英国は2030年までに1億ポンドという突出した予算を確保している一方、他の参加国のAI安全機構は年間予算1000万ドル前後にとどまっており、そして何より、フロンティアに近いAI開発を行う中国は、この国際的な検証ネットワークに現在参加していません。
Pacing the Frontierも「米国政府主導」を掲げている以上、同じ弱点を出発点から抱えている可能性が高いと考えています。互いに検証し合う仕組みを作ろうとしても、検証を支える基盤そのものが参加国構成の時点で非対称であれば、実効性には限界があります。
もう一点、ハサビス提言との違いにも触れておきます。ハサビス提言は「業界が資金を出し合い自ら規制する」という設計でしたが、今回のPacing the Frontierは「政府に主導してほしい」と、一歩踏み込んだ要求をしています。ただし、規制の中身を実際に設計する段階では、結局その業界のトップクラスの人材が深く関与することになるはずです。主体が業界から政府に移ったとしても、「規制を設計する側と、規制される側が同じ顔ぶれである」という構図そのものは、大きくは変わっていないように見えます。
矛盾ではなく、構造への率直な自覚
一見すると、この声明には矛盾があるように映ります。危険な水準に近づいた場合に開発を停止するという当初の約束を、複数の大手企業が「競合他社の対応次第」という条件付きに弱めている実態が、すでに指摘されているからです。安全へのコミットメントが空洞化しつつある、まさにその当事者たちが、今度は自ら「政府にブレーキの仕組みを作ってほしい」と求めている。
しかし、これは矛盾というより、「一社だけでは降りられない」という構造への率直な自覚だと私は受け止めています。全員が「本当はペースを落としたいが、自分だけ落とせば競争に負ける」と感じているのであれば、外部の力(政府)に「全員が同時に減速できる仕組み」を整備してもらうのが、最も合理的な選択肢だからです。
投資家として重視すべきは、この声明が実現するかどうかよりも、「AI企業のトップたちが、規制の設計そのものに自ら関与しようとする動き」が、ここ1ヶ月半で立て続けに表面化しているという事実です。ハサビス提言、AI2040への言及、そして今回のPacing the Frontier。規制・データ・インフラという「土台」を握るプレイヤーが最終的に優位に立ちやすいという以前からの見立ては、今回のニュースによってさらに補強されたと考えています。半導体やデータセンターといったインフラ企業、そして規制の設計そのものに影響力を持つ既存フロンティアラボの動向を、引き続き注視していきたいと思います。
この記事が少しでも役立ったと感じていただけたら、ぜひ「スキ(ハートマーク)」を押して応援していただけると嬉しいです。
最後までお読みいただき、ありがとうございました。
