AI開発を「減速できる選択肢」がほしい、という話が出ているらしい
これまでは自分のAI体験談を書いてきましたが、今回は少し毛色を変えて、最近ニュースで見かけた話を紹介してみます。専門家ではないので、あくまで「そんな話があるらしいよ」という距離感で読んでもらえるとありがたいです。(2026年10月時点で、報道を調べた範囲の内容です)
きっかけは「AIが人間を不要にする」という話
最近、「AIが進化して人間が要らなくなるのでは」という趣旨の話題をよく目にします。気になって調べてみると、実はそれと並行して、AIを作っている側から「少しブレーキをかけられる状態にしておきたい」という声が出ていることを知りました。
AI企業が「一時停止という選択肢」に言及
今年6月、Anthropic(Claudeを作っている会社)が、最先端のAI開発を世界で調整しながら減速、あるいは一時停止できる「選択肢」を持つべきだ、という趣旨のレポートを公表したと報じられています。
ただし、その中身は「今すぐ止めるべきだ」という話ではないようです。ある一社だけが止めても、他社が先に進んでしまうだけなので、意味を持たせるには、アメリカや中国を含む複数の国・企業が同時に合意し、お互いに確認できる仕組みが要る、という条件付きの話だと伝えられています。
業界の中から、署名が集まった
7月には、OpenAI、Anthropic、Google、Metaなどの社員1,000人以上が署名した公開書簡が出たと報じられています。内容は、AIの進歩が速くなりすぎて人間が理解や制御をできなくなるリスクに備えて、必要なときにペースを落とせる技術的・制度的な仕組みを、政府も一緒に作ってほしい、というものです。
競争している会社同士が、そろって「ブレーキの仕組みがほしい」と言っているのは、確かに珍しい光景だと思います。
一方で、疑問の声もある
もちろん、この動きを素直に受け取らない見方もあります。
- レポートの公表時期が、公表した会社の上場準備と重なっていたことから、本心はどうなのかと疑う声がある
- アメリカ政府の関係者の中には、最悪のケースを強調しすぎだ、という反応もある
- 「減速すると、競争相手の国に主導権を渡すことになる」という懸念も根強い
つまり、「止めたほうがいい」「止めたら負ける」「そもそも大げさだ」と、意見がきれいに分かれている状態のようです。
アメリカ政府の動き
報道によると、アメリカ政府は、最も高性能なAIモデルが公開される前に、30日間の事前審査を行える大統領令を出したとされています。一時停止ほど強い措置ではありませんが、公開前に政府が確認する仕組みが入った、という位置づけのようです。
自分の感想
正直なところ、どれが正しいのか、自分には判断がつきません。ただ、これまでAIを使ってきた実感としては、AIは万能ではなく、間違えることもあり、最後に決めるのは人間でした。その一方で、作る側がこれだけ慎重な議論をしていると知って、「便利な道具」という見え方とは別の側面もあるんだな、と感じました。
この話題は動きが速いので、また新しい情報が出てきたら、改めて追いかけてみたいと思います。
※参考:AFP、DPAなどの報道、各社のニュース記事をもとにまとめています。