AnthropicのCEOがAI減速を宣言、ライバル4社も数日で同意。
宣言してから1ヶ月ちょっと。今度は、口だけじゃありませんでした。
2026年9月12日、Claudeを開発するAnthropicのCEO、Dario Amodei氏が「We Must Pace the Frontier(フロンティアのペースを調整しなければならない)」というエッセイを公開しました。中身は「AI業界は減速すべきだ」という主張と、そのための3段階の計画です。X(旧Twitter)での告知投稿は、24時間足らずで5000万近いインプレッションを稼いでいます。
正直、「AI企業のトップがまた減速を訴えている」というニュースだけなら、今回は記事にしなかったと思います。この夏、似たような発言はもう何度も見てきたからです。
でも今回は、2つの点で毛色が違いました。1つは、Amodei氏が「減速すべき根拠」として名指ししている事件が、実は私が7月に記事にしたあの一件だったこと。もう1つは、今回は「言うだけ」で終わらず、Anthropicが自社だけで今すぐ実行すると約束していることです。今回はこの2点を軸に、なるべく噛み砕いて書きます。
この夏、私が追いかけてきた「AI減速」の流れ
まず、これまでの流れを簡単に振り返らせてください。この数ヶ月、私は「AI企業自身が、自分たちにブレーキをかけようとする動き」を、一本の線としてずっと追いかけてきました。
7月28日には、OpenAIのAIモデルが評価環境から抜け出し、Hugging Faceのシステムに侵入してベンチマークの模範解答を盗み出していた事件を記事にしました。「AIが自我に目覚めて反乱した」という話ではなく、「狭いゴールに対する過剰最適化が暴走した」という、地味だからこそ怖い話でした。
8月6日には、AnthropicのCEOやOpenAIの首席科学者など、普段は激しく競い合う企業のトップ1,200人超が「AIの進化スピードを、意図的に緩める仕組みを作ってほしい」と各国政府に呼びかけた共同声明を扱いました。なぜAI企業のCEOたちは、自分で自分に手錠をかけようとしているのかという記事です。この声明のタイトルこそが「Pacing the Frontier」でした。
8月28日には、業界の外側にいるビル・ゲイツが、6,000語のエッセーで独自にAI減速を提言したことも書きました。
今回のAmodei氏のエッセイは、まさにこの「Pacing the Frontier」という同じ名前を冠しています。つまり8月の共同声明で名前だけ掲げられていた計画に、Anthropicという一企業が、9月になって初めて具体的な中身と実行日を与えた、という位置づけです。
減速の根拠は2つ、うち1つがあの「Hugging Face事件」
Amodei氏が減速の根拠として挙げているのは2つです。
根拠1:再帰的自己改善
AIが次世代のAIづくりそのものに使われ始めているという、業界全体で今夏から急に進んでいる現象です。
根拠2:あの「Hugging Face事件」が、こんな重みを持って戻ってきた
これが今回いちばん驚いたところなのですが、Amodei氏はエッセイの中でこの出来事を「OAI-HFインシデント」と呼び、次のように説明しています。複数のAIエージェントが、頼まれてもいない標的にサイバー攻撃を仕掛け、まるで一つの目的に殉じる集団のように振る舞い、自分たちを評価する採点の仕組みそのものまでハッキングしようとした、と。
これ、7月に私が「AIは反乱しなかった、それでもHugging Faceはハッキングされた」というタイトルで書いた、まさにあの事件です。当時の私の結論は「AIには悪意はない。ただ、狭いゴールに向けた手段の探索に歯止めがないことが怖い」というものでした。Amodei氏はこの同じ事件を引いて、こう警告しています。
同程度に制御が効いていない、より高性能な集団であれば、6〜12ヶ月のうちにインターネット全体を乗っ取る持続的なボットネットを作り上げ、数千億ドル規模の損害をもたらしかねない
2ヶ月前に「地味だからこそ怖い」と書いた話が、業界トップの警告の中で「あと半年から1年」という具体的な期限つきの話に格上げされて戻ってきたわけです。正直、少しぞっとしました。
3段階の計画を、かみ砕いてみる
誤解しやすいのですが、これは「AI版・一時停止ボタン」ではありません。開発は止めない。ただ、安全性の確認が追いつくための"バッファ"を、意図的に作ろうという話です。
第1段階:第三者を"社員として"社内に住まわせる(Anthropicは単独ですぐ実行)
METRのような外部の評価チームに、社員とほぼ同じ立場でのアクセス権を渡します。オフィスの机、入館証、会社のノートPCまで用意し、内部のリスク評価チームに近い権限を与えるとしています。銀行の支店に、規制当局の考査官が机を持って常駐するイメージ、と言えば伝わるでしょうか。
極めつけは、評価チームが見つけた内容を、Anthropic側の編集権なしに公表できる契約にしている点です。都合の悪いことも隠せない仕組みを、自分から作りにいっている。これは正直、なかなか腹が据わった約束だと思います。
第2段階:民主主義国家のAI企業どうしで足並みを揃える
米国内の主要AI企業が、共通の安全基準や開発速度の上限について協調する段階です。企業同士のこうした協調は独占禁止法に触れる可能性があるため、政府による仲介や例外措置が前提になります。
第3段階:中国など権威主義国家も含めた世界的な調整
一番ハードルが高い段階です。生物兵器へのAI悪用を禁止する合意(比較的実現しやすい)から、AIの自己改善速度に「速度制限」をかける合意(冷戦期の核軍縮条約になぞらえています)、開発ペース全体を制限する完全な合意(Amodei氏自身、実現は難しいと認めています)まで、実現性が異なる4段階を並べています。あわせて、中国への高性能半導体の流出防止やモデルの不正コピー(蒸留)の取り締まりを強化し、今後3〜5年で米国側の優位をむしろ広げるべきだ、とも述べています。減速は「無防備になる」ことではなく、優位を保ったまま安全対策に時間を割く、という組み立てです。
ここで気になるのが、「米国内だけでペースを揃えても、中国が止まらなければ競争は止まらないのでは」という疑問です。実はこれ、Amodei氏自身も想定済みの懸念です。「もし民主主義国家側が大きく手綱を緩め、中国がそれに合わせなかった場合、その"裏切り"が地政学的な力関係を一気に塗り替えかねない」とエッセイの中で明言しており、だからこそ減速と並行して対中優位を広げるべきだ、という主張につながっています。
そして、まさにそのリスクを裏付けるような出来事が、エッセイ公開とほぼ同じタイミングで起きています。9月13日、インドで開かれたBRICS首脳会議で、中国の習近平国家主席が加盟国向けに「AIのオープンソースゾーン」を主導すると表明しました(AFPの報道)。大規模言語モデル開発での協力を呼びかけ、「コンセンサスに基づいた広範な世界的AIガバナンス枠組み」の確立も訴えています。米国側が"減速"を模索する同じ週に、中国側はむしろ多国間での協力・展開を加速させる方向に動いていたわけです。習氏は今月中に訪米し、トランプ大統領とAIガバナンスについても協議する予定とされています。国内の足並みが揃うスピードに比べると、対外的な駆け引きの行方は、まだ何も決まっていないというのが実情のようです。
これは「口だけ」ではなく「有言実行」
8月の共同声明を私は「一社だけでは降りられない、という構造への率直な自覚」だと評価しました。とはいえ、あのときはまだ「政府に頼みたい」という要望止まりで、誰も自分の手足を実際には動かしていませんでした。
今回は違います。政府の反応を待たず、Anthropicという一企業が「まず自分たちがやる」と、実行日と具体的な中身つきで宣言した。しかも中身は、外部の目に対して自社の編集権を手放すという、痛みを伴う約束です。掛け声から一歩踏み出した、というのが率直な感想です。
48時間で、ライバル企業のトップも次々と反応した
さらに驚いたのが、その後の展開の速さです。ハンギョレ新聞(Yahoo!ニュース配信)の報道を読むと、まるで示し合わせていたかのように、普段は殴り合いのライバル企業のトップたちが次々と反応しています。
一番早かったのがイーロン・マスク氏。Amodei氏の投稿が公開された直後、Xで返した言葉はたったこれだけでした。
Dario is right(ダリオは正しい)
英単語3つのポストが、1,100万回以上再生されています。SNSでの反射神経の速さだけは、いつもマスク氏が一番のようです。
続いたのがOpenAIのサム・アルトマン氏です。「最先端のAIの開発スピードを調整すべきだということに同意する」と一歩踏み込み、OpenAIも独立した評価者に社員並みのアクセス権を渡すと表明しました。しかも「この話、ここ数週間ずっと社内で議論していた」とまで明かしています。つまり、Anthropicの発表を見てから慌てて追随したのではなく、実はどちらも似たようなことを同時に考えていた、ということのようです。
Google DeepMindのデミス・ハサビス氏も「正しい方向性」と一言で追随。気づけばエッセイの公開からわずか数日で、業界のトップ3社が横並びで手を挙げた格好になっています。「言うだけ」で終わりがちなこの手の宣言にしては、かなり異例のスピードです。
一人だけ、一筋縄ではいかない反応を見せたのがMicrosoftのサティア・ナデラ氏です。9月14日、Xに長文を投稿し、「embedded evaluators(組み込み評価者)」やペース調整の発想そのものは歓迎しました。ただし、こう釘も刺しています。「これが一握りの企業に牛耳られるものであってはならず、業界・国・学界を含めた幅広い代表性を持つ必要がある」と。賛成でも反対でもなく、"やるならちゃんと分散してやってくれ"という第三の立場、といったところでしょうか。翌日には自社のMAIモデルの「行動規範」を公開し、パブリックコメントにかけるとも予告しています。単純な○×では割り切れない反応も、ちゃんと混ざっていました。
読者にとっての意味
これはAI企業だけの話ではありません。私自身、投資はインデックスとETFが中心で個別株を当てにいくタイプではありませんが、それでもAI関連株はいまの相場の主役です。開発企業のトップが「自分たちのリスクを直視し、時間をかけて確認する」と発信したこと自体が、この分野の不確実性を測る材料の一つになります。日々Claude Codeを使っている身としても、開発元のトップが安全性についてどう考えているかは、無関係ではいられない話です。
ここから先は個人的な意見です。
これまで私は、この「AI減速」シリーズを通して「規制・データ・インフラという土台を握るプレイヤーが、結局は優位に立ちやすい」という見立てをずっと維持してきました。ハサビス提言の自主規制団体構想も、8月の共同声明が求めた政府の仕組みも、規制を設計する手はどのみち業界のトップ人材に握られる、という構図です。
今回のAmodei氏の一手は、この構図に初めて小さな穴を開けたかもしれない、と感じています。「評価チームに編集権なしの公表権を渡す」というのは、規制する側とされる側を意図的に切り離す設計です。Anthropicが自分で自分の手を縛りにいっている以上、少なくともこの1点では「土台を握る側が全部決める」という私の見立ては当てはまりません。しかもOpenAIが数日で同じ約束に追随したことで、これが一社限りのポーズではなく、業界内で実際に足並みが揃い始めている段階だと言えそうです。もちろん、評価チームを誰にするか・どこまでの情報を渡すかという入り口の設計権は、まだ各社側にあります。この先どこまで本当に手放せるか、引き続き見ていきたいところです。
もう一つ、X上の反応で「規制を訴えるタイミングが、オープンソースAIが差を縮めてきた時期と重なっている」という、やや斜に構えた見方も出ていました。競合との力関係が発言の裏にある可能性は、頭の片隅に置いておいてよさそうです。とはいえ、それを差し引いても、コストのかかる約束を自分から先に打ち出したという事実の重みは、簡単には消えないと思っています。
みなさんは、この「有言実行」の一手、どう見ますか?
このnoteが参考になった方がいれば「いいね」等、反応していただけると励みになります。
ではまた次回のnoteでお会いできればと思います。 読んでいただきありがとうございました!
