【AI QUEST解説】シンギュラリティは秒読み？Claude自己進化ループの衝撃と「性能低下」の裏にあるアラインメント税の真実

AIの進化スピードがさらに加速しています。今回は、Anthropicが発表した「AIがAIを作る」という未来像の衝撃と、多くのユーザーが直面している「Claudeの違和感」の正体、そして急速に広がるサイバーセキュリティやローカルLLMの最新研究について深掘りします。

1. クロードがクロードを作る？「再帰的自己改善（RSI）」による自己進化ループ

AI研究者の間で今最も注目されているホットワードの一つが「RSI（Recursive Self-Improvement：再帰的自己改善）」です。これは「賢くなったAIが、自分自身をさらに賢くするプログラムを書き、その進化したAIがまた次のAIを作る」という、古典的なシンギュラリティ（技術的特異点）の概念そのものです。

Anthropicの発表によると、この自己進化のループがいよいよ現実味を帯びてきています。

• 人間のボトルネック化： これまでは研究の方向性を人間が決定していましたが、実験計画の立案、コードの記述、実行、評価までの「完全なループ」をエージェント自身で閉じられるようになりつつあります。

• 自律型エージェントの驚異的な稼働時間： 2024年のClaude 3（Opus）は数分程度のソフトウェアタスクしかこなせませんでしたが、最新の「Opus 4.6」は12時間、「Claude Mythos（ミュトス）プレビュー」にいたっては16時間以上も連続で自律駆動し、計測テストスイートの限界を突破しています。

• 開発の加速： Anthropicのエンジニアが記述するコード量は、従来の8倍ものペース（数ヶ月で倍増）で成長しています。

ただし、今井氏は「リソース（データやGPU）による学習ステップが途中に挟まるため、世間が想像するようなSF的な爆発的進化には一足飛びにはならず、現実的なボトルネック（計算資源や人間社会の仕組み・審査など）は残る」とも指摘しています。

2. 「Claudeが使いづらくなった？」性能低下の噂と「アラインメント税」の真相

ベンチマーク上では過去最高のスコアを記録している「Claude 4.7」や「4.8」ですが、SNSや実際の開発現場のユーザーからは「以前のOpus（4.6等）に比べて、プログラミングなどの使い心地が微妙になったのではないか」という声が上がっています。

今井氏はこの現象の背景にふたつの原因を挙げています。

1. 既存ベンチマークの限界： 現在の評価セットが、ユーザーが真に重視する実用的な性能を測りきれなくなっている（「エバリュエーション（評価）」自体の難しさ）。

2. アラインメント税（Alignment Tax）の直撃： AIに倫理的な調整や安全性のガードレールを設けることで、意図しない別の性能が低下してしまう現象。

特に今回のClaudeのケースでは、最強のサイバーセキュリティ能力を持つとされる「Mythos（ミュトス）」の一般リリースを見据え、「脆弱性を特定・悪用するサイバーキル能力（危険な能力）」をアラインメントによって狙い撃ちで抑え込もうとしたと推測されます。しかし、この危険な能力と、ユーザーが日常的に使う高度なプログラミング能力は、技術的に表裏一体（かぶっている領域）です。結果として、安全性を高めるための調整が、一般のプログラミング能力の低下（ナーフ）を巻き起こしてしまっているのではないか、という極めて興味深い知見が語られました。

3. 最強AI「Mythos」の実力と広がるサイバー・バイオリスクへの懸念

限定公開されていた超高度な安全性・セキュリティ特化型モデル「Mythos」ですが、そのアクセス権が日本政府や国内の3大メガバンクを含む世界15カ国・150以上の組織へと拡大されました。

• 本物だった実力： サードパーティのインフラ企業やセキュリティ企業の独立評価により、MacのOSの脆弱性を突いて乗っ取れるレベルの、極めて高い実力が証明されました。他社（OpenAIのGPT-5.5など）との共同論文でも、その圧倒的な脆弱性特定能力が示されています。

• 迫る「ミュトス級」の一般化： 今後6〜12ヶ月以内には、多くの主要AI企業がこのレベルのモデルを保有するようになると言われています。数週間以内には一般ユーザー向けにも提供される見込みですが、前述の「プログラミング能力とのトレードオフ」がどう着地するかが注目のポイントです。

• バイオリスク（生物兵器）の管理： AIが賢くなると、意図していなくても生物兵器の合成手順などの危険な知識にたどり着いてしまいます。主要AI企業のトップらが共同署名した声明では、デジタル上のアラインメントだけでなく、物理的に薬品を合成する「ウェットラボ（実験室）」側での厳格なスクリーニングとアクセス遮断の重要性が訴えられています。

4. Microsoft Buildから見る「エージェント時代」とローカルLLMの境界線

番組の後半では、Microsoftのカンファレンス「Build」やNVIDIAの動向をもとに、今後のAIアーキテクチャの未来が議論されました。

• ズルをしない自社推論モデル「MAI-1」： Microsoftが発表した「MAI-1」は、他の最先端LLMからの上流（合成データの活用）を行わず、クリーンなデータとオープンな学習手順のみで高い性能に到達したモデルであり、研究コミュニティへの貢献が非常に大きいと高く評価されました。

• ローカルLLMの可能性と「知識量」の限界： NVIDIAのジェンスン・フアン氏らが推し進める「RTX AI PC（ローカルで120BクラスのLLMを動かす最強スペック）」の未来について、最近の研究（GoogleのGemma 2等の事例）から重要な事実が示唆されました。AIのパラメータを小さくしても「推論能力」はある程度保てますが、「知識系ベンチマーク」はガツンと下がってしまうという特性があります。そのため、仕事で必要な膨大な知識をすべてローカルPCに詰め込むのは難しく、クラウドとの併用やRAG（外部検索の組み合わせ）、コンテキストウィンドウの広さを活かした設計が今後も重要になります。

おわりに

動画の最後には、今井翔太氏の著書『生成AIで世界はこう変わる』がAmazonでの評価数2000件を突破したという、技術書としては異例の快挙（松尾豊先生の著書以来）の報告もありました。

AIが自らコードを書き、自己進化を始める時代。その圧倒的な進化の恩恵を実務にどう活かすか、そしてアラインメントによる性能の変化にどう適応していくか、私たちは「サバイバルな視点」で常に最新の動向を追い続ける必要がありそうです。