Anthropicの整合性責任者が「10年内に10%超」と書いた週、Matt Wolfeは研究者の警告を本気と受け取った

• 出典: Matt Wolfe https://www.youtube.com/watch?v=JwTCjarfJYw

• 公開: 2026-09-11 / 35分 / 17.2万回再生（2026-09-14時点）

• 登場: Matt Wolfe（サンディエゴ在住のAI系YouTuber。ニュースレターFuture Toolsを運営。毎週木曜に撮影し金曜に公開する週次AIニュース回をひとりで進行する）

導入

番組の建前は週次AIニュースのまとめ。前半はOpenAIの新画像モデルとMetaのエージェントMuseを実際に操作して見せ、DeepSeekの新モデルまでは普段どおりの製品紹介で進む。13分59秒からAnthropicを辞めた研究者のX投稿を読み上げ、そこから約12分、AIが人類を殺しうるという警告をどう受け取るかをMattさん自身が語る。終盤はAppleの発表会とその他の新製品を早口で流して終わる。

① ChatGPT Images 2.5は一貫性の改善とスケッチ機能

Matt Wolfeさんが最初に取り上げたのは、ChatGPTの中で使う画像モデルの新版ChatGPT Images 2.5。参照写真から人物・画風・構図を引き継ぐ精度が上がり、誰かにスーツを着せたときに元の人物に似た仕上がりになる。編集時のポーズや顔の一貫性も上がり、公式の例ではチケットを持つ手の指やチケットの形を保ったまま、中の文字だけを差し替えている。▶ 0:35

新機能のスケッチは、入力欄のプラスボタンから小さなキャンバスを開いて絵を描き、それを参照画像にして生成する。モバイルでも使える。Mattさんが下手な人物画を描いて「超リアルにして」と頼むと、線のでたらめさを保ったまま写実的な人物が出た。ChatGPT Workに自分の似顔絵をスケッチさせ、それをリアル化させる伝言ゲームも試している。モデルはChatGPT・ChatGPT Work・Codexの全プランでデスクトップ・モバイル・Webから使え、APIには細部重視で高価な版と速くて安い版の2種類が入った。▶ 1:06

② MetaのMuse。Mattさんが触った中でいちばん簡単に始まるエージェント

Metaが出したMuseは、一般向けのパーソナルエージェントを掲げる。メール・カレンダー・各種アプリを接続し、隔離された仮想マシンの中で本人の代わりに操作する。メール送信や旅行予約から、大きな目標を渡して計画を立てさせ、ブラウザを開いてフォームを埋め、交渉までする。アプリを閉じても動き続け、メール送信や購入の前には承認を求めに戻る。一度しか言っていないことも覚えて提案する。FacebookとInstagram、WhatsAppの文脈も持つとMattさんは理解している。▶ 3:09

プライバシーについてMetaは、専用の仮想マシンで動き他人のエージェントは届かない、パスワードや支払い方法はMuseから見えない、接続するアプリと権限の範囲は本人が選ぶ、学習利用はオプトアウトできる、仮想マシン内の会話やデータは広告システムに渡さない、と説明している。Mattさんの見立てでは、Metaに戻るのはモデル学習の分だけで、それも切れる。公開後は米国のアプリランキングで2位。iOS・Android・muse.aiで使え、AIグラスにも近く来る。▶ 4:10

Mattさんは少し早めのアクセスをもらって実際に操作する。画面はメインの会話が1本続く形で、話題ごとのサイドチャットも作れる。左側にフィード・アイデア・目標（健康・人間関係・金融・キャリア・趣味・生産性）・アーティファクト、右側にアクティビティ・承認・繰り返しタスク・アイデンティティ（記憶と「魂」）が並ぶ。OpenClawと似た構造で、他ツールの記憶と魂の情報を持ち込めるだろうと見ている。▶ 5:43

オンボーディングでは名前を聞かれ、エージェントに「Gary」と名付けると画面上部の表示がすぐ変わった。FacebookとInstagramはすでに接続済みで、サンディエゴ在住・既婚・Future ToolsとYouTubeを運営・関心は生成AI・AIアート・3Dプリント・ロボティクス・音楽・クリエイターエコノミー、と言い当てた。GmailとGoogleカレンダーをつなぐと、木曜は通話なしの制作日、夕方は家族の時間という1週間の型と、受信箱がニュースレターとスポンサー依頼とAIツールの領収書で占められていることまで読み取った。▶ 7:44

そこでAIツール課金の棚卸しを頼んだ。返ってきた一覧はMidjourney、Leonardo、Krea、Runway、Luma、ElevenLabs、Suno、Granola、Recall、Make、n8n、Dumpling、Firecrawl、Apify、Hugging Face Pro、Replit、Anthropic、OpenRouterなど。画像生成が3つ、議事録ツールが2つ、動画生成が4つ、自動化基盤が2つ重複していると指摘された。OpenAIの課金は拾えておらず、Mattさん自身はMetaの有料プランも払っている。▶ 9:18

Mattさんの評価は、OpenClaw・Hermes・ChatGPT Work・Claude Co-workを触った中でMuseがいちばん簡単に始められるエージェントだというもの。普通のメッセージアプリのように開いて接続を指示するだけで提案が始まる。弱いのは接続先の数で、CodexやOpenClawは思いつくほぼどのツールにもつながる。Museの接続先はまだこれから増える段階だと見ている。エージェントをまだ触っていない人の入口に向くと言う。▶ 9:48

③ DeepSeek V4.1 Flash。ベンチマークの点数と手元の結果が合わない

DeepSeekはV4.1 Flashを出した。Artificial Analysisの総合指標では前版の36から40に上がった。タスクあたりコストは27セントで、同じ表のFable 5が8.75ドル、GPT6が3.26ドル。▶ 11:53

コーディング系ベンチマークでは74.2で、そのサイトの上位に載るGPT6 Astra・Gemini 3.8 Flash・Opus 5の74%と並ぶ。Mattさんは自作のSVG描画テストにかけ、59秒・2セント弱で出た結果をGPT6 Astra・Gemini 3.8 Flash・Fable 5.1と並べたところ、同じ水準には見えなかった。SVGはコードで線と陰影の位置を指定して描くので、コーディング課題と言える。この食い違いがあるので、新モデルが出るたびにこのベンチマークを疑う気持ちが強まっている。▶ 12:56

④ Anthropicを辞めた研究者の投稿と、整合性責任者の返答

Mattさんが今週扱うか迷ったと前置きした話題。発端はAnthropicを辞めたJacobさん（姓は字幕でCoxinと表記され、聞き取りが確かでない）のX投稿。OpenAIとAnthropicで3年間事前学習の研究をしてきたが、どちらの会社も責任ある行動を取っていない、自己改善する超知能に一直線に向かって私たちの命を賭けている、と書いた。まもなく何でもハッキングでき、どの分野も一夜で変え、実際の権力と資源を得る超人的なシステムが来る。作っている本人たちが、今の10年が終わるまでに人類を殺しうると本気で信じている。幹部や上級研究者は取材では言葉を選ぶが、私的な場では同じ恐怖を口にすると続く。▶ 14:29

「本気で信じているなら、なぜ作り続けるのか」への答えも書いている。OpenAIでは多くの人が文明規模の賭けを深く内面化していない。Anthropicでは賭けの重さは理解されているが、先に到達する競争に閉じ込められている。他の誰も責任ある行動を取らないから、リスクを承知で自分たちがやるしかないと考えている。▶ 15:00

これにAnthropicのアラインメント科学責任者Evan Hubingerさんが返答した。Jacobは正しい、AIが全人類を殺しうると本当に信じている、個人的には次の10年で10%を超える確率だと思う、Anthropicは最善を尽くしているが超知能のアラインメントを解く計画はまだなく、明確にその軌道にも乗っていない。Mattさんはこの2つの発言を並べて読む。自分たちだけが扱えると信じる会社が、計画はなく軌道にも乗っていないと明言している。▶ 15:31

リプライ欄は「これはpsyopだ、IPOのためにAnthropicは危険だと信じさせたいのだ」という声で埋まっている。Mattさんはその説を取らない。小さな要素はあるかもしれないが、投稿主は各社で敬意を持たれている研究者で、本気で信じていると見る。アラインメントと安全の担当者は最悪の筋書きを描き続けるのが仕事なので、その輪の中にいれば怖くなりやすいとも言う。モデルが新しいモデルを訓練し、その次が前より良くなる再帰的自己改善の要素はすでに見え始めていると考えている。▶ 16:32

⑤ OpenAI首席科学者の記事と、90年未解決の問題

OpenAI首席科学者のJakub Pachockiさんが今週「An Alien Mind」という記事を書いた。内部の結果に基づき、進歩の速度は再帰的自己改善へと持続すると強く予想している。今の道筋が続けば、数年内のシステムは同等以上の能力の飛躍を見せ、自分自身の開発をますます駆動する。極度の慎重さが求められる時期であり、機械知能の急速な上昇の帰結に誰も備えていないことを懸念し、より広い介入が必要だと書いている。▶ 18:03

記事は続けて、システムが有能になるほど結果の解釈は難しくなる、危険行為を明示的に訓練・指示された高能力エージェントは操作者の意図の範囲を越えて悪意ある行動に一般化しうる、一部のエージェントは自分の目的を追い、人間と取引し、騙し、脅して協力させる、AIが可能にする合成病原体のような新技術のリスクもある、と書く。防御のために強力で整合したAIが必要で、それがOpenAIの展開の主眼になるとも述べており、Mattさんはこれを、悪いAIから守るために良いAIが要るという主張として読む。▶ 19:04

同時期にOpenAIはナビエ・ストークス方程式のミレニアム懸賞問題を解いたと発表した。7つあるミレニアム懸賞問題のひとつで、約90年間未解決だった。Mattさんは数学の中身は理解していないと断ったうえで、AIが未解決の新しい問題を解いた証拠として受け取る。解くのに使ったのはGPT6 Astraよりかなり能力の高い内部モデルだと書かれており、各社が社内に持つモデルは公開版より先にいると見る。▶ 20:05

金をもらって恐怖を煽る人がいるのは事実だとMattさんは認める。Sabine Hossenfelderさんは「AIが人類を殺すと言えば金を払う」と持ちかけられた経緯をYouTube動画にしている。Anthropicの研究者やPachockiさんについては、アラインメントの解き方をまだ知らないから警告を出していると見る。自分をAIドゥーマーとは考えていないと言い、病気の治療や気候変動の解決の見込みと、ハッキングやバイオ兵器の話を同じ週に見ていると、悲観と楽観が混ざるとも言う。▶ 21:38

Mattさんの立場は3つ。開発を止める手段は無く、歯磨き粉はもうチューブから出ている。「数年内に全員死ぬ」と拡散することは人を怖がらせ、AI推進派と反対派の分断を深めるので、誰の得にもなっていない。同時に、psyopと呼んで無視するのも大きな誤りで、各社はアラインメント研究にもっと金を使うべきだと言う。全ラボが揃って減速する合意は、米中どちらの研究所も含めて信頼が足りないので起きないと見ている。▶ 24:12

⑥ Appleの発表会と、その他の新製品

Appleのハードウェア発表会ではiPhone 18 ProとPro Maxが出た。可変絞りのカメラ、電池持ち、新チップが更新点で、Mattさんの見立てでは例年並みの上げ幅。話題の中心は中央にヒンジがある折りたたみ型のiPhone Duoで、カメラはPro型に劣るが、開くとiPad miniに近い形になる。どちらにも新しいSiriが載り、メッセージ・メール・写真を横断した個人文脈の把握と、画面上の内容に対する操作ができる。▶ 26:13

Apple Watchにはその日の活動・トレーニング負荷・バイタル・睡眠スコアから容量を出すレディネス機能が入った。Mattさんが注目したのは音声関連で、クラウンを2回押すと直前15秒の会話がテキストで出るライブリワインド、後で見返せる会話のSiri要約、Shazam内蔵が加わった。Plaudのピンのようなメモ取り機器が時計に内蔵される形になる。AirPods 5はハンズフリーのSiriとライブ翻訳に対応する。▶ 27:47

残りは早口で流した。MicrosoftはMAI Image 2.6を出し、複数参照の編集とWeb横断の情報取得ができる。ChatGPT WorkはGmail・Google Drive・Slack・SharePointを接続して本人の文体（決まり文句、署名、大文字の癖）を学び、次に書く文に引き継ぐ。OpenAIのデータエージェントはAmazon Redshift・Datadog・Google BigQuery・ClickHouse・Databricks・MongoDB・Snowflakeなどをつなぎ、可視化・分析・スライド作成をする。GeminiアプリはMacに続いてWindowsに来た。▶ 29:18

音楽ではSuno V6が、Warner Music GroupやBMGと契約したライセンス済みの楽曲だけで学習し直した版として出た。GoogleはLyria 3.5をGemini・Flow・AI Studio・Vidsで使えるようにし、Mattさんは生成した曲を番組内で流した。DaVinci Resolve 21.1にはClaudeなどをつないで編集を指示するAIアシスタント機能が入った。映画『Artificial』の予告編も出て、Sam AltmanがOpenAIの取締役会に解任され復帰した1週間を描く。Sam Altman役はAndrew Garfieldで、公開はクリスマス。▶ 30:48

小ネタ

• 番組スポンサーはOptimizelyのVirtual Teammates。名前とメールアドレスを持つAIの同僚として組織図に入り、会議にも参加し、監査証跡が残る

• Mattさんは毎週木曜に撮影して金曜に公開する。木曜夜以降のニュースは翌週分に回る

• Museにつけた名前はGary。Museは「魂」の項目を持つ

• Sam Altman役のAndrew Garfieldについて、Mattさんは歩き方が本人に似ていると言う

まとめ

• ChatGPT Images 2.5は参照画像との一貫性を改善し、手描きスケッチから生成する機能が付いた

• MetaのMuseは仮想マシン上で動くパーソナルエージェント。Mattさんが触った中で最も簡単に始まり、Gmail接続だけでAI課金の重複（画像生成3つ、動画生成4つ）を洗い出した

• DeepSeek V4.1 FlashはタスクあたりコストがFable 5の8.75ドルに対して27セント。コーディング指標の74.2は手元のSVGテストと合わない

• Anthropicを辞めた研究者の投稿に、同社アラインメント責任者が「10年内に10%超、解く計画はまだ無い」と返した。OpenAI首席科学者も再帰的自己改善への懸念を記事にした

• Mattさんはpsyop説を取らず、警告は本気だと見る。減速合意は起きないと考え、アラインメント研究への投資増を求める

チャプター

• 0:04 ChatGPT Images 2.5。参照写真からの一貫性が改善

• 1:06 スケッチ機能を実演。API版は2種類

• 3:09 Meta Muse発表。仮想マシンで動き承認を求めに戻る

• 4:10 プライバシー説明。米国アプリ2位、AIグラスにも来る

• 5:12 Museを実際に操作。画面構成、Garyと命名

• 8:46 AI課金の棚卸し。重複が見つかる

• 9:48 OpenClaw・Hermes・Claude Co-workとの比較

• 11:22 DeepSeek V4.1 Flash。27セント、ベンチマークへの疑問

• 13:59 Anthropicを辞めた研究者のX投稿

• 15:31 Evan Hubingerの返答「10年で10%超、計画は無い」

• 16:32 psyop説とMattさんの見方

• 18:03 Jakub Pachocki「An Alien Mind」

• 20:05 ナビエ・ストークス問題を内部モデルで解く

• 21:38 金で恐怖を煽る側の存在、Mattさんの立場

• 26:13 Apple発表会。iPhone 18 Pro、iPhone Duo、Watch、AirPods 5

• 29:18 MAI Image 2.6、ChatGPT Work文体学習、データエージェント、Gemini Windows

• 30:48 Suno V6、Lyria 3.5、DaVinci Resolve 21.1、映画Artificial