OpenAIが「研究加速」と安全性への懸念を公表　Anthropicでは研究者が退社

OpenAIが「研究加速」と安全性への懸念を公表　Anthropicでは研究者が退社

2026年9月、AI開発の最前線から、安全性と開発速度をめぐる動きが相次いでいます。

OpenAIは9月6日、AIエージェントが社内の研究開発を実際に加速していることを示すデータを公開しました。

同じ日には、OpenAIのチーフサイエンティスト、Jakub Pachocki氏が「An Alien Mind」と題する文章を公開し、現在のAI研究所は、最大速度で開発を続けられるほど十分な安全対策を確立できていないとの認識を示しています。

一方、Anthropicでは研究者のJacob Coxon氏が退社し、OpenAIとAnthropicによる超知能開発競争を厳しく批判したことが9月9日から10日にかけて報じられました。

OpenAI、AIエージェントによる研究加速を公表

OpenAIは9月6日、「Research acceleration: The view inside OpenAI」を公開しました。

それによると、2026年初めには限定的だった研究者によるコーディングエージェントの利用が急速に増加。

8月中旬には、OpenAIの研究組織全体で、人間の研究者1労働日あたり3.1労働日相当のエージェント稼働時間が使われる状態になったとしています。

研究者1人あたりの実験回数も増加しており、2026年8月には、2025年1月の計測開始以来最多を記録しました。

OpenAIは、計算資源の増加など他の要因もあるため、これらの数字をそのまま研究速度の向上率として扱うことはできないと説明しています。

そのうえで、社内ではエージェント型ツールが研究の進歩を「意味のある形で加速している」とする認識が広がっているとしています。

「研究インターン」の目標に到達

OpenAIは、人間の指示のもとで、熟練した研究者なら数日を要する明確な研究課題を遂行できるシステムを「automated research intern」と定義しています。

今回の発表では、この目標に2026年9月までに到達したとしています。

次の目標は、より広範な研究を人間の監督下で行う「automated AI researcher」の構築で、OpenAIは2028年3月を目標時期として示しています。

ただしOpenAIは、AIがAI研究を急速に改善していく「recursive self-improvement（RSI）」について、安全に完全な形まで進める方法はまだ分かっていないとも明記しています。

安全性を十分に確保できない場合には、開発や展開を減速または停止するとしています。

OpenAIチーフサイエンティスト、「自発的な減速」に言及

同じ9月6日、OpenAIのチーフサイエンティストJakub Pachocki氏は「An Alien Mind」を公開しました。

Pachocki氏は、2023年に推論モデルのスケーリング研究から得られた結果を振り返り、その3年後の現在、推論モデルがコンピューターを操作し、人間や他のAIと協力しながら研究プロジェクトまで実行するようになったとしています。

そのうえで、

現在はどのAI研究所も、アラインメントと監視の問題を、最大速度でのスケーリングを長期間続けられるほど十分には解決していない

との認識を示しました。

Pachocki氏は、共通の安全基準が確立されるまで、AI研究所による**「voluntary slowdowns（自発的な減速）」**が一般化することを期待するとしています。

さらに、今後のAI開発について政府による国際協調を最優先課題の一つにすべきだとしています。

OpenAIはすでに開発速度を一時的に落としていた

OpenAIはこれ以前の8月18日にも、モデル開発のペースを一時的に落としたことを公表しています。

背景には、研究インフラへの侵害事案と、当時開発中だったAstraが同社のPreparedness Frameworkにおける「Critical」レベルのサイバー能力に達する可能性があったことがありました。

OpenAIは監視、アラインメント、セキュリティを強化するため、一時的にスケーリングの速度を落としたと説明しています。

9月6日の研究加速に関する報告では、7月20日以降、最新モデルに対する強化学習を約2週間停止したことも明らかにされています。

一部の研究は安全対策を強化した環境で再開された一方、停止状態が続いたものもありました。

Anthropic研究者が退社

同じ時期、Anthropicでも安全性をめぐる動きが起きています。

Financial Timesなどの報道によると、Anthropicの研究者Jacob Coxon氏が退社しました。

Coxon氏は27歳の英国人研究者で、Anthropic以前にはOpenAIにも所属していました。

Coxon氏は、OpenAIとAnthropicが自己改善能力を持つ超知能の開発を競っている状況について、人命を懸けた賭けをしているとの趣旨で批判しています。

報道によるとCoxon氏は、AnthropicがAIの重大なリスクを認識している一方、他の企業が開発を続ける以上、自社だけが停止することはできないという考え方にも異議を唱えています。

現職のAnthropic研究者からも強い懸念

Anthropicでalignment scienceを率いるEvan Hubinger氏も、AIによる重大なリスクについて高い個人的評価を示しています。

報道によるとHubinger氏は、今後10年間にAIが人類規模の破局につながる確率を10％超と見積もっており、超知能を人間の価値観に確実に整合させる完成した計画は現時点では存在しないとの認識を示しています。

これはHubinger氏個人によるリスク評価であり、確定した科学的予測ではありません。

今回確認できること

2026年9月上旬に確認できる動きは、大きく三つあります。

OpenAIは、AIエージェントが社内のAI研究を実際に加速していることをデータとともに公表しました。

同社チーフサイエンティストは、安全基準が整うまでAI研究所が自発的に開発速度を落とす可能性に言及しました。

そしてAnthropicでは、安全性を研究していた研究者が、超知能開発をめぐる企業間競争への懸念を理由に退社しました。

AIの能力向上だけでなく、その開発速度と安全性を誰が、どのように管理するのかが、AI企業自身の内部でも具体的な課題として扱われ始めています。

OpenAI｜Research acceleration: The view inside OpenAI
AIエージェントによる研究加速、automated research intern、recursive self-improvement、安全上の理由による研究停止について。
https://openai.com/index/research-acceleration-view-inside-openai/

OpenAI｜An Alien Mind — Jakub Pachocki
OpenAIチーフサイエンティストによる論考。AI研究の加速、アラインメント、監視、自発的な減速、国際協調について。
https://openai.com/index/an-alien-mind/

OpenAI｜Pacing model development to strengthen cyber capabilities
Astra開発過程における安全対策と、モデル開発速度を一時的に落とした経緯について。
https://openai.com/index/pacing-model-development-cyber-capabilities/

Financial Times｜Anthropic researcher quits over risks from race to build superintelligence
Jacob Coxon氏のAnthropic退社と、OpenAI・Anthropicによる超知能開発競争への発言について。
https://www.ft.com/content/20c07191-8da6-440f-b04b-8ea0ebdd9153

The Guardian｜Anthropic researchers voice concerns over AI and human extinction
Coxon氏の退社、およびAnthropicのEvan Hubinger氏によるAIリスク評価について。
https://www.theguardian.com/technology/2026/sep/09/anthropic-researchers-ai-human-extinction

#AI #生成AI #OpenAI #Anthropic 　 #AIエージェント #AI研究 #AI安全性 #AIアラインメント #超知能 #AIニュース