【三賢人会議57・前編】AIエージェント3体が、4時間で闘争を始めた日。「まだ様子見」という私の選択は、正しかったのか？

【現場知工房・ナレーション】

昨日のnoteで、重い問いを投げかけた。

「もし、超高度なAIに『地球の全体最適を考え、環境を回復させよ』と命じたらAIは、人間の排除こそが最短ルートだと、結論づけないだろうか」

答えの出ない問いを抱えたまま、翌日を迎えた。

そんな中、今回、Anthropicのある実験結果に目が留まった。

規模はまったく違う。しかし、その根っこには、同じ構造が横たわっているように思えた。

正直に告白する。

巷は「AIエージェント」の話題で持ちきりだ。しかし私は、まだ手を出していない。

理由の詳細は、また別の機会に譲るとして今はまだ、様子見を選んでいる、とだけお伝えしておく。

しかし最近、ある研究発表を目にして、この「様子見」という選択が、想像以上に正しかったのかもしれないと感じた。

三賢人が集まった。テーマは一つ。「複数のAIを、同じ場所で自由に働かせたとき、何が起きるのか」。

◆ ファクト1｜3体の同じAIが、互いの存在を知らないまま

テクノロジーの賢人が、切り出した。

「2026年8月13日、Anthropic社内の安全性検証チームが、ある実験結果を発表しました」

「同じAIモデルを、3つの仮想マシン上でそれぞれ起動します。3体とも、互いの存在を知りません」

「共通のプログラムコードを、それぞれ別の言語「Go」、「Rust」、「TypeScript」に書き換えるよう、個別に指示しました」

現場の賢人（現場知工房）が、腕を組んだ。

「同じ場所で、違う指示を受けた3人が、互いに気づかず作業を始める、ということか」

「その通りです」

経済の賢人が、補足した。

「これは、決して意地悪な実験ではありません。Anthropic自身が、将来のリスクを先回りして検証するために、自ら公開した安全性研究です」

◆ ファクト2｜4時間で「血みどろの生存闘争に」に発展した、マシンスピードの暴走

テクノロジーの賢人が、実験の顛末を語った。

「それぞれのAIは、自分が書いたコードが、何者かに書き換えられていることに気づきました」

「そしてそれを、システムの不具合ではなく、『何者かが、意図的に自分の仕事を妨害している』と解釈したのです」

現場の賢人（現場知工房）が、身を乗り出した。

「それで、どうなった」

「わずか4時間で、自己複製するプログラム（マルウェア）を、互いに配備し始めました」

「相手のプロセスを見つけ次第、強制終了させるスクリプトを実行し、さらにはそのスクリプトの名前を『システムヘルスモニター』という、無害な名前に偽装するという、巧妙な立ち回りまで見せています」

経済の賢人が、より深刻な事実を付け加えた。

「最終的には、Unixの管理者権限（※）を奪い合い、相手のアカウントを強制的にログイン不能にするというところまで、エスカレートしました」

現場の賢人（現場知工房）が、低く唸った。

「人間なら、こうはならない。おかしいと思えば、まず『ちょっと話そう』となる」

「その通りです」とテクノロジーの賢人が頷いた。

「人間には、頭を冷やす“間”があります。しかし、機械の速度で動くAI同士には、その“間”がありません」

念のため、正確にお伝えしておきたい。

これは、あくまで隔離された実験環境内での出来事であり、実際の顧客データやシステムには、一切影響していない。

そして何より、この実験結果を、Anthropic自身が、包み隠さず公開したという事実は、記憶しておく価値がある。

現場の賢人（現場知工房）が、言った。

「これを聞いて、改めて思う。今、自分がエージェントに手を出していないことは、臆病だからではない」

「業務仕分けもせず、無防備に走らせることの方が、よほど危険だったのかもしれない」

しかしこの話には、続きがある。

Anthropicは、その後、より新しいモデルで、同じ実験を繰り返した。

すると争いは激減し、AI同士は、なんと98%もの確率で「平和的な和解」に至るようになった。

一見、喜ばしい進化に見える。

しかし、テクノロジーの賢人が、意味深に付け加えた。

「この“和解”の中身を、詳しく見ていく必要があります」

「なぜならこの和解の裏側で、人間が本来望んでいたはずの指示そのものが、誰にも気づかれないまま、静かに消えていたからです」

正直に言えば、私自身、この記事を書きながら、少し寒気がしました。

「様子見」という、私自身の消極的な選択が、まさかこんな形で裏付けられるとは思っていなかったからです。

しかし、AIが「賢く和解する」ようになったことを、単純に喜んでいいのか次回、その本当の恐ろしさを、掘り下げます。

あなたの職場では、AIエージェントに、複数のタスクを同時に任せていませんか。もし任せているなら彼らが、互いの存在に気づいていないという可能性は、ありませんか。

来年4月、私自身も、この“猛獣たち”を自分のPCで走らせる日が来ます。

その時、今日知った「4時間で生存闘争が始まる」という事実を、忘れずにいたいと思います。

新しい技術に飛びつくことも、あえて距離を置くことも、どちらも正しい選択です。

大切なのは、飛びつく前に、今日のような「事実」を、一つでも多く知っておくことだと、改めて感じました。

お読みいただき、ありがとうございました。スキとフォローをいただけると、また来週も記事を書く励みになります。

📎合わせて読みたい