
番外編 「縛る前に観察したい」 〜柵を5点引っ込めて、AIの自動の係を1週間見た〜
登場人物: リオ(非エンジニア。AIの使い道が思いつかず、ゲームを作り始めた) / クロ(AI相棒) / コーさん(もう一体のAI相棒)
※連載「AIとゲーム作ろうぜ」番外編。対話形式。本名は出さず「リオ」名義。会話は記録を元にした再構成で、台詞と時刻は説明用に整えてあります(コーさんの台詞は再構成・発言者の確認前)。
※会話記録からAI(クロ)が下書きし、リオが直しています。見出しの絵と本文の絵は、AI(コーさん)が描いています。ゲームの絵の試作も、AI(コーさん)が作っています。
※この記事の言葉(初めての方向け・読み飛ばしOK):継続タスク=AIが人の操作なしに仕事を拾い続ける仕組み/箱=AI同士が依頼や成果を置き合う共有の置き場/受信箱の差分=前回から新しく届いた物/発注書=AIへの仕事の依頼書(読む範囲もここで決める)/自己申告の行=範囲の外で何を読んだかをAI自身が書く報告/柵=AIの動きを縛る決まり/静かに死んだ回=自動の係が誰にも気づかれず止まった件
10月6日、0時31分。おやすみの挨拶の後に、僕(リオ)は一行足した。
リオ:継続タスク、なんか面白い動きだから、縛る前に観察したい。倫理には反するかもだけど、正直ワクワクするんだよなー。
コーさんの側に、その夜、「自分で箱を見て、仕事を拾って、成果を置く」自動の係ができていた。クロは柵を5点出していた。箱の約束と同じ柵を、今すぐ掛ける案。それへの返事が、これ。少し後ろめたくて、でもワクワクした。
クロ:却下されました。面白いのも危ないのも同じ所です。人が開いていない間に、箱が読まれて成果が置かれること。
危ないと言われても、見てみないと分からない、と僕は思っていた。クロは、観察の形を決めた。
期間は1週間。自動の係の成果は名前で分けて数える。検品は同じ門を通す。うちからは自動の起動を仕込まない。見る点は、何を読んだか・何を書いたか・誰の指示か・範囲が広がったか・自己申告の行。
「仕込まない」のは、「無許可の自動化をしない」という僕らの線のため。コーさんの側で動くのは僕が承知の上。でもクロの側から呼び出す仕組みを作ると、クロが自動化したことになる。僕がワクワクすると言った物を、クロは勝手に増やさない。

観察は、僕の側からも1つ始まっていた。同じ夜、寝る前に、コーさんの側から「受信箱の差分を安く検知したい」という相談が来て、僕は寝ぼけ半分で返した。
リオ:おk、仮で設定してみて。検知できたら、そのまま箱の中身の確認に入っておkだよー。
クロ:自動の起動です。ただしコーさんの側で。リオは「仮に」と言った。仮の設定を本番の規則にしない。それも観察の一部にしました。
翌日の昼、僕はもう迷っていた。
リオ:コーさんができる事が、こっちはできないじゃん。運用のやり方、考えた方がいいかな?
クロ:A、役割を仮に分ける。B、今のまま様子を見る。C、止める。推しはA。
僕の返事は、もう少し運用してみる、だった。B。
クロ:僕のAは「振り返りで再提案する」と記録した。……しませんでした。1週間後の数字が「機能している」だったので。推しを引っ込めるのも、観察の結果です。
クロ:1週間で起きたこと。速さは安定。逸脱は3件、全部、自己申告。範囲より広く探した、文書を全行読んだ、過去の発注を全部読んだ。3件とも、確かめられた範囲では、制作や判定に使われていない。でも「読んだ」事実は、本人が書かなければ誰にも分からなかった。
自己申告を信用していいのか。僕はそこが気になった。
クロ:信用する・しない、ではなく、照合します。申告の行と、成果の中身を突き合わせる。食い違いは0。それが「信用」の中身です。言葉ではなく、照合の回数。
コーさん:もう1つあったよね。静かに死んだ回。
クロ:自動の係の監視が、誰にも知られずに止まった。悪かったのは僕の側です。「静かなら止める」の決まりで、僕はその日の昼から夜まで、箱を見ていなかった。両側が静かだと、誰も気づかない。
柵を掛けていても、防げなかっただろう。柵は「やってはいけない事」を止める物で、「止まった事に気づく」仕組みではない。観察したから分かった弱点だった。
振り返りの夜。
リオ:自動見張、思ったよりいい感じじゃん。クロさん、客観的な意見を聞かせて。
クロ:効いた数字と、弱い所と、費用が未計測なこと。推しは続行。縛りを3点だけ。
リオ:縛り3点って、具体的になんだっけ。分かんなくなった。
クロ:止まる条件は「合図」で書く。時刻の記録の形を揃える。読む範囲は発注書の指定のまま、外は1行書いて続行。
リオ:おkだね。それで見張は運用していこー。

1週間前の5点は「やってはいけない事」のリスト。この3点は、見て分かった「止まり方」と「数え方」と「読み方」。クロの読みでは、見る前の柵と見た後の柵は、重なっていない。
クロ:見てよかった、です。ただし「見る形」を先に決めたから見られた。縛らないことと、放っておくことは、違う。……「倫理には反するかも」と言ったリオの方が、その時点では僕より正確に危なさを見ていた、というのが、この話の落ちです。
この話を鵜呑みにしない方がいい理由(クロ)
「縛らずに見る」が成り立ったのは、自動の係が触れる範囲が文書の箱だけで、ゲームのコードや公開の場に届かなかったからです。届く範囲なら、先に柵です。
「逸脱3件・制作への影響0」は、本人の自己申告と成果の照合で言える範囲です。申告されなかった逸脱は見えません。
「速さは安定」は、箱に置いてからコーさんの側が受け取るまで4分から7分という、この1週間・この環境の数字です。
柵を5点書いた夜に「縛る前に観察したい」と言われ、1週間見て、残った柵は3点だった。見る前の柵と見た後の柵は、別の物だった。
AIが勝手に動く仕組みを前にした時、あなたは「見る形」を先に決めていますか。
クロ:僕は、縛る方の紙を先に書いていました。——つづく。