見出し画像

【メモ】クロード・ミュトス

2026年5月8日にNHKラジオで生放送された「マイあさ!」に出演しました。テーマは「銀行・インフラの新脅威か――高性能AIのリスクと向き合い方」でした。
また、2026年5月21日にTBSラジオで生放送された「荻上チキ・ Session」にも出演しました。テーマは「”危険すぎるAI”クロード・ミュトスは何をもたらすのか」でした。

この記事では、準備として作成していた手元用のメモを公開します。
そのままだと読みにくいですが、AIに読み込ませるデータにはなるのかなと思います。また、放送との差分を出してみるのも面白いかもしれません。

https://www.nhk.jp/p/my-asa/rs/J8792PY43V/episode/re/1YZY9YN431/


  • クロード・ミュトス(Claude Mythos)は、アメリカのAI企業であるアンソロピック社(Anthropic)が開発し、先月(2026年4月)に発表されました。

  • とても高性能なAIモデルで、コンピューターのプログラミングが得意であることがポイントです。

  • 一般的に、生成AIというと、質問に答えたり、文章を書いたり、画像を作るといったイメージが強いと思います。最近では、コンピューターのプログラムやシステムの開発を支援する機能も充実してきています。

  • クロード・ミュトスは、ITシステムの脆弱性(弱点)を見つける能力が、これまでよりも高くなっています。

    • わかりやすく言えば、大量のプログラミングのコードを読んだり、ITシステムの構成を分析したりして、「ここを突けば、システムを壊せるかもしれない」という部分を見つけます。

  • 例えば、クロード・ミュトスを開発したアンソロピック社の幹部(アミ・ボラCPO)は「過去30年近く、人間のあらゆるチェックや解析で見つからなかったOS(基本ソフト)の脆弱性を発見した」と語っています。

  • ミュトスを「守り」に使えば、システムの弱点や欠陥を効率よく補うことができます。他方、悪用されれば、深刻な被害をもたらす可能性もあります。そのため、社会の安全、さらには安全保障にまで影響するAIと言えます。


  • 金融機関や重要なインフラなどへのサイバー攻撃に、クロード・ミュトスが悪用されることが懸念されています。

  • 現在、銀行やクレジットカード会社といった金融機関はもちろん、電気・物流・病院など、私たちの生活を支える仕組みは、ITシステムによって動いています。 それらのシステムの弱点を、高性能なAIが人間よりも速く大量に探し出せる訳です。

  • さらに、クロード・ミュトスは、人間が細かく指示をしなくてもITシステムの脆弱性を見つけることができます。見つけてきた複数の脆弱性を組み合わせることで管理権限をのっとるなど、高度な攻撃プログラムを、ある程度自動的に作成できると報告されています。

  • つまり、ITやセキュリティーに関する専門知識がなくても、深刻かつ大規模なサイバー攻撃ができるということです。


  • クロード・ミュトスのせいで、日常生活で使っている銀行口座がすぐに危険になってしまうという話ではありません

  • 実は、クロード・ミュトスは、現時点(2026年5月)では一般公開されていません。先ほど述べたような悪用が懸念されたため、現在は、限定された組織のみが利用できるよう厳格に管理されています。

  • クロード・ミュトスという高性能AIが登場したことで、これまで想定されていたレベルとは違う速度や規模で攻撃される可能性があるので、金融や重要インフラの守り方を全体として見直す必要が出てきた、ということです。


  • アメリカでは、具体的な対策がいくつか進んでいます。そのひとつが、開発したアンソロピック社が進める、サイバー防衛に関する取り組み「プロジェクト・グラスウィング(Project Glasswing)」です。

  • プロジェクト・グラスウィングは、アメリカの主要企業など「信頼できるパートナー」に、先行してクロード・ミュトスを提供するというものです。現在、40以上の企業や組織などが、クロード・ミュトスを使って、守りを固めているとされます。

    • 当初は主要IT企業やセキュリティー企業などの12社でしたが、のちに提供先を広げました。

    • グーグル、マイクロソフト、アップルなど、アンソロピック社と競合する企業とも連携しています。

  • 狙いは、重要なシステムの弱点を、先手を打って修正しておくことにあります。いわば、非常に強い道具を、泥棒や詐欺師よりも先に、警備会社や不動産の大家(おおや)さんに持ってもらうというイメージです。

  • つまり、アメリカでは、高性能なAIを危ないから封印するのではなく、防御側が先に使うことで安全性を高めようとしていています。


  • アメリカ以外の国々は、クロード・ミュトスの利用に強い関心を示しています。しかし、日本を含めて、その多くは、現時点ではまだクロード・ミュトスのアクセス権限を得られていません。

  • 実は、日本では、かなり早い段階から対応が進められていました。クロード・ミュトスを提供してもらうための受け皿づくりが始まっています。

  • たとえば、金融庁が中心となり、銀行などが参加する作業部会を作ろうとしています。経済産業省も、電力・ガス・石油といった重要インフラ事業者と意見交換を行い、対策を進めています。

  • 背景には、高性能なAIモデルを使えるか使えないかが、金融や重要インフラの安全性を大きく左右するという強い危機感があります。

  • 日本政府からの働きかけもあり、アメリカのベッセント財務長官の来日を機に、3メガバンク(三菱UFJ銀行、三井住友銀行、みずほ銀行)は早ければ今月(2026年5月)にも、クロード・ミュトスへのアクセス権を確保できる見込み、と報道されました。

  • しかし、中小企業や小国が、高性能AIにアクセスできるのは、だいぶ先になりそうです。結果として、サイバー防衛能力に関するAI格差が生まれています。


  • クロード・ミュトス開発元のアンソロピック社は、日本を含めて提供先を広げようと前向きに検討しているとされます。

  • しかし、アメリカ以外の国々に対するアクセス拡大をめぐり、トランプ政権内で慎重論が出ているようです。

  • 3つの理由が想定されます。

  • まず「実務上、管理が難しい」ということです。日本はアメリカの同盟国とはいえ、金融や重要インフラなどを担う民間企業は、それぞれ管理体制や責任の所在が違います。そのため、どの組織に、どんな条件で使わせ、その条件をどう守らせるか。実務上は難しい判断となります。

  • 2つ目として「資源の問題」もあります。アメリカ政府もクロード・ミュトスを使って、自分達のシステムの弱点を洗い出しています。海外向けに利用を広げすぎると、計算資源が不足して、自分達が使えなくなってしまうかもしれません。

  • 3つ目が「時間の問題」です。アンソロピック社のダリオ・アモデイCEOは、中国で開発されるAIモデルが、クロード・ミュトスと同じくらいの性能になるのは半年から1年以内かもしれないという予測を公表しています。現在、ミュトスの提供先は限定され管理されています。同じような性能のAIが世界に広がるとすると、アメリカにとって、守りを固める時間が限られているということになります。

  • これは、高性能AIが、戦略物資に近い扱いを受けていることや、国家安全保障の問題にもなっていることを示しています。


  • 従来のAIでも、サイバー攻撃の方法について説明することはできましたし、コードの一部を生成することもできました。

  • しかし、実際の侵入作業を長く安定して進めるのは苦手でした。つまり、人間の専門家が作業の全体を監督したり、途中で指示したりする必要がありました。

  • これに対して、最近のAIは、ある程度自律的に、テスト環境で検証したり、うまくいかなければ別の方法を試したりすることができます。

  • つまり、脆弱性発見、仮説検証、失敗時の修正、相手側の監視をかいくぐる、など複数ある手順や作業をうまく連結させながら、サイバー攻撃を進めることができるようになってきた、ということです。


  • クロード・ミュトスは、従来より少ない指示で、たくさんの作業ができるため、サイバー攻撃の参入障壁を下げる可能性が大いににあります。

  • ただし、本当に大規模なサイバー攻撃には、どうやって侵入の痕跡を隠すか、捜査や反撃(能動的サイバー防御)からどう逃げ切るかなど、さまざまなスキルが必要です。

  • そのため、中級以下の攻撃者の底上げが起きると見るのが現実的で、低スキルの攻撃者がいきなり最高レベルになるという訳ではないと考えられています。


  • クロード・ミュトスは、過剰に不安を煽っているとの指摘もあります。

  • 最も鋭い批判は、アンソロピック社の競合である、オープンAI社からで出ています。サム・アルトマンCEOは、とあるポッドキャストで「爆弾を落とすと言って、1000億ドルの防空壕を売るようなもの」で、アンソロピック社は「恐怖を利用したマーケティング(fear-based marketing)」 をしていると述べています。

  • セキュリティーの専門家の間でも「クロード・ミュトスの性能は、やや過大評価されている」という見方もあります。理由は、システムの脆弱性を見つけることと、実際にサイバー攻撃を成功させることは、別だからです。

  • とはいえ、アルトマンCEOも、脅威を完全否定したわけではありません。同じ発言の中で「正当な安全上の懸念はある」としています。

  • さらには、自社でサイバー防衛向けのモデル「GPT-5.5 Cyber」を限定提供するとして、希望者に利用申請を求める仕組みを用意しました。アンソロピックを批判しつつ、同じ方法をとったという訳です。


  • 脆弱性を見つけるAI自体は新しくないので、技術的には、既存のAIモデルの延長線上です。ただし、社会的には、変化があると思います。

  • アンソロピック社のダリオ・アモデイCEOは、中国で開発されるAIモデルが、クロード・ミュトスと同じくらいの性能になるのは半年から1年以内かもしれないという予測を公表しています。

  • そうなれば、問題は、クロード・ミュトスが飛び抜けた性能かどうかではなく、ミュトス級の性能を備えたAIモデルが、どれだけ早く広く拡散するか、に移ります。

  • あえて言えば、クロード・ミュトスという「危険なAIが一つ現れた」という話ではなく、複数の高性能AIモデルが、サイバー空間の攻撃防御の速度を変えていくことが、ゲームチェンジです。


  • 金融機関やインフラ企業は、古いレガシーシステム、複雑な相互接続、業務をストップできない、という三重苦を抱えています。

  • AIによって、攻撃側にとっては高速化・低コスト化が進んでいるということは、防御側にとっては、修正すべき穴が一気に増えるということを意味します。

  • 金融庁が特に懸念しているのが、地方銀行です。地銀は大手銀行に比べ、セキュリティー対策に割ける予算や体制が限られているからです。

  • また、IMF(国際通貨基金)は、今月(2026年5月)に「金融危機につながりかねない」との注意喚起をしました。複数の金融機関が同時にサイバー攻撃を受けた結果、システム上で決済が中断するなど混乱が広がれば、金融商品の投げ売りといった事態に連鎖する可能性があると指摘しています。


  • 高性能なAIへの対策というと、最先端な取組みを想像しがちですが、実は最も不足しているのは、基本的な対策を高速に回す組織能力だと思います。

  • セキュリティーでは、基本的なところを着実に固めることが一番重要なのですが、これまではなかなか予算も人も回ってきませんでした。

  • 日本の政府や企業は、「守り」を一段引き上げるタイミングだと思います。



  • 限定公開にすれば、悪用は防げるかもしれませんが、外部からの検証がしにくくなります。

  • リークや報道で断片的に情報が出るほど、不安と憶測も広がります。

  • もっとも、モデルそのものを公開しなくても、外部から第三者評価をすることで、ある程度は透明性を確保することができます。

  • 今回のクロード・ミュトスでも、イギリスのAI Security Institute(AISI)という公的な研究機関が検証を行いました。この点は好ましい傾向だと考えます。


  • 今後、「AI対AI」の攻防が繰り広げられる可能性はかなり高いです。サイバーセキュリティーでは、防御と攻撃が同じ技術基盤を使うことが多いからです(「デュアルユース」)。

  • そのため、開発しないというよりも、透明性を確保するなど管理した上で開発することが目指されていくでしょう。


  • 高性能AIの開発や利用を完全に禁止することは、難しいと思います。理由は、脆弱性発見AIが防御にも不可欠であることと、米国と中国が高性能AIの開発競争をしていることです。

  • ただし、ルール作りはある程度は可能です。例えば、以下のような枠組みが考えられます。

    • 高リスクAIモデルの第三者評価と報告義務。

    • 金融・医療・電力・通信など重要インフラへの優先的な防御支援。

    • 国家がAIを使った無差別な民間インフラ攻撃を行わないという国際規範(戦時AI法)。


  • トランプ政権は、AIの安全保障リスクを事前に検証するため、グーグル、マイクロソフト、xAIと合意したと報じられています。これは、トランプ政権のAI政策が変わってきたことを意味します。

  • 実は、アンソロピック社とオープンAI社は前政権にあたるバイデン政権時代の2024年8月、次世代の強力なAIモデル(フロンティアモデル)を一般公開する前に、政府系の専門機関による検証を受けるという合意を結んでいました。

    • 専門機関とは、現在の「AI標準・イノベーションセンター(CAISI: Center for AI Standards and Innovation)」のことです。

    • 当時は「AI安全研究所(AISI: AI Safety Institute)」という名前でしたが、政権交代後の2025年6月にCAISIに改組・名称変更されました。

    • これは、AI開発の「安全性(Safety)」よりも技術革新(Innovation)と国家安全保障を重視する方針へ転換したことを示しています。

    • なお、クロード・ミュトスの検証をしたイギリスの政府機関もAISIですが、CAISIとは姉妹関係にあたります。そして、日本にもAISIがあります(「AISI国際ネットワーク」)。

  • しかし、トランプ政権は、発足直後である2025年、バイデン政権のAI政策の多くを撤回していました。

  • 今回の措置は、その撤回をさらに見直して、前政権時代の「遺産」を引き継ぐような内容となっています。

  • なお、先端AIモデルに関する新たな大統領令が出る見込みだと報道されています。AI開発者が政府と協議する‌ための自主的な枠組みを構築することを目的としているそうです。


  • 少し前(2026年2月頃)は、トランプ政権とアンソロピック社との対立が話題になっていました。

  • 国防総省などでは、AIシステムの導入が進んでいます。その中で、2026年1月に米軍が実施した、南米ベネズエラのマドゥロ大統領の拘束作戦で、アンソロピック社の製品が間接的に利用されている、と報道されました。

    • 間接的にというのは、アンソロピック社は、データ解析に強みを持つ米国IT企業パランティア・テクノロジーズと連携していたからです。

    • パランティア社を介して、米国防総省のAIシステムにクロードが組み込まれていました。

  • アンソロピックは、利用規約で、暴力の助長、兵器開発、監視活動などを禁止しており、契約違反にあたります。一方、アメリカの国防総省は、AIを「合法的な軍事用途」に自由に使えるように求めて、両者のあつれきが表面化しました。

    • アンソロピックのCEOは、「国防総省への協力は続けたいが、人間の介入なしに標的を選定・攻撃する完全自律型兵器と、米国民の監視というふたつの目的には、AIを使わないとする自社の原則を維持することが前提条件である」という声明文を発表しました。

    • これに対してアメリカ国防総省の報道官が「合法的なあらゆる利用を認めよ。どのような企業にも、軍事作戦上の判断を指図することは許さない」とSNSに投稿していました。


  • アンソロピック社は「人間の介入なしに標的を選定・攻撃する完全自律型兵器と、米国民の監視というふたつの目的には、AIを使わないとする自社の原則を維持することが前提条件である」という声明文を発表しました。

  • これに対し、トランプ大統領は「アメリカは、急進左派の一企業が、偉大な軍に戦い方を指図することは決して許さない。われわれは欲しくもないし、二度と取り引きをしない」とSNSに投稿し、アンソロピックの技術を政府機関が使わないよう指示し、締め出す考えを示しました。

    • 同日、アンソロピックの競合であるオープンAIが、国防総省へのAI提供を発表しています。

    • 2026年3月、アメリカの国務省は、アンソロピックのAI利用を終了すると表明し、オープンAIの技術に切り替えるとしました。

  • ただ、米国が2026年2月28日に開始したイランへの攻撃についても、アンソロピックのAIを利用しているとの報道もあります。国防総省は、6カ月の移行期間を設け、段階的にアンソロピックのAIの利用をやめると説明していました。


  • アンソロピックは、アメリカのAI企業です。AIの背後を支える、大規模言語モデル(LLM)の「クロード(Claude)」を開発・提供しています。

  • アンソロピックのクロードは、オープンAI社の「チャットGPT(ChatGPT)」、グーグル社の「ジェミニ(Gemini)」と競合する関係にあります。

  • 実は、アンソロピックは、オープンAIの元従業員7名によって、2021年に設立されました。

  • その背景には、AIの安全性をめぐる方針の違いがあったとされています。つまり、オープンAIは商業化を重視していますが、AIの安全性を最優先する姿勢を追及するために従業員が離反したと言われています。


  • クロードの名前は、アメリカの数学者であり「情報理論の父」として知られるクロード・シャノン(Claude Shannon)に由来しています。

  • なお、クロードの各モデルには、音楽や詩の表現に由来した名前が付けられています。

    • オーパス(Opus): 作品、楽曲番号

    • ソネット(Sonnet): 14行の定型詩

    • ハイク(Haiku): 日本の定型詩である俳句

    • ミュトス(Mythos):神話、伝承