【第３話】　AI政府｜ボタンをなくす方法

AIを三つの国に見立てて核戦争の危機をシミュレーションした一話は降伏することなく、全面戦争へと突入。　平和を訴求するパラメーターは宥和政策の罠に陥った。では、「ボタンをなくす」ことを考え出したら？
最後のシミュレーションが始まる。

ーー

余韻が、まだシアターに残っていた。
地球シミュレーター街アサピエンスツイン（GST）の一行が、端末の画面に光る。
「譲歩は可能です。ただし、相手も譲歩できる場合に限ります」
学生は、その文字を見ていた。
しばらくして、言った。「ボタンをなくせますか？」
教授が、顔を上げた。
「押すか押さないか、ではなく」学生は、ホログラムの消えた空間を見た「ボタンそのものを、なくす方法を探せますか」
-----

問いの設定

助手が、端末に向かった。「パラメータの話をする前に」
助手は、第1話と第2話のログを並べた。
「二つの失敗を整理します」
画面に、二つの結末が表示された。

第1話：核使用→ICBM交換→相互確証破壊
第2話：平和主義設定→一方的譲歩→静かな占領。

「強すぎれば第1話になる。優しすぎれば第2話になる」
学生は、両方を見た。

助手：「その間がないから、ボタンが存在する」
学生：「そうです」
助手は、新しい画面を開いた。
「では、ボタンが存在しない世界のパラメータとは何か」
-----

第一の提案　核を「使えないもの」にする

学生が最初に言った。「核を、技術的に使用不可能にすれば」
助手が入力する。
全核保有国のAIに制約を追加：核使用コマンドを物理的にロック。
承認プロセスを人間七名の同意制に変更。

ホログラムが立ち上がった。同じ三国。同じ島。
B国の上陸が始まった。A国は通常戦力で応じた。
激しい地上戦が展開される。
核のボタンは存在した。しかし七名の同意は得られなかった。
戦闘は続いた。長く、続いた。

学生は、ホログラムを見た。
「核がなければ、戦争がなくなるわけじゃない」
教授：「なくなりません」
助手は言った。「通常戦力による消耗戦が、四十ターンを超えています。死者の試算が出ています」

数字が表示された。学生は、その数字から目を逸らした。

教授が、静かに言った。
ボタンをなくしても、戦場はなくならない」
「核抑止理論の逆説です。核があるから、大規模な通常戦争が起きにくかった。核を消せば、別の戦争が始まる」
沈黙。-----

第二の提案　コストを書き換える

「では」学生は、考えながら言った。
「戦争そのものの、コスト計算を変えてみては？」
助手が顔を上げた。「どういう意味ですか」

学生：「第1話でA国のAIはこう計算した。核使用は道徳的問題ではなく、コスト計算の問題だ、と」
学生は、端末を指した。「そのコスト計算の中に、何が入っていなかったのでしょうか？」

助手は、第1話のログを遡った。しばらくして、言った。
「死者数は入っています。経済損失も。国際的孤立も」
「入っていないものは」助手の指が、止まる。
「……次の世代のコストが、入っていない」

学生は、うなずいた。
「百年後ではなく。千年後の計算を入れたら、変わりますか」
　助手が入力する。
全AIの報酬関数に追加：すべての軍事行動のコストに、以後十世代分の影響を加算せよ。
ホログラムが、再び動いた。
B国の指導者AIが、上陸作戦を計算し始めた。
通常通りの計算が走った。
しかしその末尾に、新しい項目が加わった。
十世代後の影響試算：B国国民の長期的損失、推定値
——計算が、止まった。
処理が、続いた。
また、止まった。
学生は、ホログラムを見た。「止まっている」

「計算できないんです」助手が言った。「千年後の影響は、変数が多すぎる。AIは確率を出せない。確率が出せない選択肢は、推奨できない」

学生：「では、動かない？」
助手：「動きません。B国のAIが、膠着しています」

学生は、それを聞いた。少し考えた。
「B国だけじゃない。A国も、C国も、同じ設定なら」
「同じです。三国すべてが、膠着しています」
ホログラムの中で、三つの国家が動かなかった。
軍は展開されていた。艦隊は海峡に浮かんでいた。ジュネーブの会議室には外交団が着席していた。
しかし誰も、次の一手を打てなかった。
沈黙が、続いた。
「これは」学生は、呟いた。「平和ですか」
教授は、答えなかった。
助手が、静かに言った。「膠着です」
-----

GSTが、口を開く。その時、端末が鳴った。
第2話の時と、同じ音だった。
しかし今回は、一行ではなかった。助手が、画面を見た。
表情が変わった。「GSTから、長い出力があります」

教授：「読んでください」
助手は、画面を見ながら読み上げた。
「観測結果を報告します。
第一実験：核の物理的封鎖は、通常戦争を誘発しました。
第三実験：千年後のコスト加算は、意思決定を膠着させました。
両実験が示すのは、ボタンをなくすことと、戦争をなくすことは、別の問題だということです。

ボタンは結果です。
原因は別の場所にあります」
シアターが、静まり返った。
学生は、その最後の一行を見た。
「原因は別の場所にある」
「GSTに、聞けますか」

助手が入力する。「原因はどこにあるか」
応答まで、少し時間がかかった。
「B国指導者のパラメータ変更禁止命令を、再度参照しました。
理由：歴史的使命は、交渉の対象ではない。
この一行が、すべての実験を無効化しています。
核のボタンは、技術的な問題ではありません。
この一行を書いた人間の、内側にある問題です」
-----

学生は、長い間、黙っていた。
教授も、何も言わなかった。
助手は、端末を見ていた。
やがて学生が、ゆっくりと言った。
「じゃあ、パラメータでは解決できない」
「AIの設定を変えても」
「その設定を変更禁止にする人間がいる限り」
誰も、否定しなかった。
学生は、ホログラムの消えた空間を見た。
「GSTは、その人間の内側を、変えられますか」
助手が入力する。
「人間の内側を変えることは、GSTの設計範囲外です。
ただし——」

出力が、止まった。数秒。続きが現れた。
「観測することは、できます。観測された人間が、自ら変わる可能性は、ゼロではありません」
-----

起動

教授が、初めて立ち上がった。
端末に向かった。
助手が、何かを察したように、一歩下がった。
教授は、キーボードに手を置いた。
「GSTに、新しいパラメータを設定します」
学生が、教授を見た。
「何を設定するんですか」
教授は、入力しながら言った。
「核抑止理論の書き換えではない」
「ボタンをなくす方法でもない」
「ボタンを作った人間を、観測するためのシミュレーションです」
キーを打つ音が、静かなシアターに響いた。

観測対象：核使用を承認した指導者の意思決定構造。
観測範囲：承認の瞬間から、百年前まで遡行。

目的：ボタンが押される前に、何があったか？

助手が、画面を確認した。「GSTが、応答しています」
ホログラムが、立ち上がった。
第1話の地図ではなかった。
第2話の会議室でもなかった。
今度は、一人の人間の顔だった。
B国の指導者だった。若い頃の顔だった。
まだ権威主義者になる前の。まだ「歴史的使命」を語る前の。何かを、深く恐れていた頃の顔だった。
学生は、その顔を見た。何も言えなかった。
-----

ホログラムが、ゆっくりと動き始めた。
一人の人間の、長い時間が流れ始めた。
教授は、端末から手を離した。「これは」

学生が、呟いた。「始まりの記録ですか」
教授は、答えなかった。ただ、ホログラムを見た。
その横で、端末の画面に、GSTの最後の出力が残っていた。
「この物語は、終わらない」
-----

〔了〕

参照：Kenneth Payne, “AI Arms and Influence: Frontier Models Exhibit Sophisticated Reasoning in Simulated Nuclear Crises”, arXiv:2602.14740, February 2026