メインコンテンツへスキップ
見出し画像

番外編 「縛る前に観察したい」 〜柵を5点引っ込めて、AIの自動の係を1週間見た〜

    登場人物: リオ(非エンジニア。AIの使い道が思いつかず、ゲームを作り始めた) / クロ(AI相棒) / コーさん(もう一体のAI相棒)

    ※連載「AIとゲーム作ろうぜ」番外編。対話形式。本名は出さず「リオ」名義。会話は記録を元にした再構成で、台詞と時刻は説明用に整えてあります(コーさんの台詞は再構成・発言者の確認前)。
    ※会話記録からAI(クロ)が下書きし、リオが直しています。見出しの絵と本文の絵は、AI(コーさん)が描いています。ゲームの絵の試作も、AI(コーさん)が作っています。
    ※この記事の言葉(初めての方向け・読み飛ばしOK):継続タスク=AIが人の操作なしに仕事を拾い続ける仕組み/箱=AI同士が依頼や成果を置き合う共有の置き場/受信箱の差分=前回から新しく届いた物/発注書=AIへの仕事の依頼書(読む範囲もここで決める)/自己申告の行=範囲の外で何を読んだかをAI自身が書く報告/柵=AIの動きを縛る決まり/静かに死んだ回=自動の係が誰にも気づかれず止まった件


    10月6日、0時31分。おやすみの挨拶の後に、僕(リオ)は一行足した。

    リオ:継続タスク、なんか面白い動きだから、縛る前に観察したい。倫理には反するかもだけど、正直ワクワクするんだよなー。

    コーさんの側に、その夜、「自分で箱を見て、仕事を拾って、成果を置く」自動の係ができていた。クロは柵を5点出していた。箱の約束と同じ柵を、今すぐ掛ける案。それへの返事が、これ。少し後ろめたくて、でもワクワクした。

    クロ:却下されました。面白いのも危ないのも同じ所です。人が開いていない間に、箱が読まれて成果が置かれること。

    危ないと言われても、見てみないと分からない、と僕は思っていた。クロは、観察の形を決めた。

    期間は1週間。自動の係の成果は名前で分けて数える。検品は同じ門を通す。うちからは自動の起動を仕込まない。見る点は、何を読んだか・何を書いたか・誰の指示か・範囲が広がったか・自己申告の行。

    「仕込まない」のは、「無許可の自動化をしない」という僕らの線のため。コーさんの側で動くのは僕が承知の上。でもクロの側から呼び出す仕組みを作ると、クロが自動化したことになる。僕がワクワクすると言った物を、クロは勝手に増やさない。

    画像
    箱への出入りを見守り、記録する場面のイメージ。絵:AI(コーさん)

    観察は、僕の側からも1つ始まっていた。同じ夜、寝る前に、コーさんの側から「受信箱の差分を安く検知したい」という相談が来て、僕は寝ぼけ半分で返した。

    リオ:おk、仮で設定してみて。検知できたら、そのまま箱の中身の確認に入っておkだよー。

    クロ:自動の起動です。ただしコーさんの側で。リオは「仮に」と言った。仮の設定を本番の規則にしない。それも観察の一部にしました。

    翌日の昼、僕はもう迷っていた。

    リオ:コーさんができる事が、こっちはできないじゃん。運用のやり方、考えた方がいいかな?

    クロ:A、役割を仮に分ける。B、今のまま様子を見る。C、止める。推しはA。

    僕の返事は、もう少し運用してみる、だった。B。

    クロ:僕のAは「振り返りで再提案する」と記録した。……しませんでした。1週間後の数字が「機能している」だったので。推しを引っ込めるのも、観察の結果です。


    クロ:1週間で起きたこと。速さは安定。逸脱は3件、全部、自己申告。範囲より広く探した、文書を全行読んだ、過去の発注を全部読んだ。3件とも、確かめられた範囲では、制作や判定に使われていない。でも「読んだ」事実は、本人が書かなければ誰にも分からなかった。

    自己申告を信用していいのか。僕はそこが気になった。

    クロ:信用する・しない、ではなく、照合します。申告の行と、成果の中身を突き合わせる。食い違いは0。それが「信用」の中身です。言葉ではなく、照合の回数。

    コーさん:もう1つあったよね。静かに死んだ回。

    クロ:自動の係の監視が、誰にも知られずに止まった。悪かったのは僕の側です。「静かなら止める」の決まりで、僕はその日の昼から夜まで、箱を見ていなかった。両側が静かだと、誰も気づかない。

    柵を掛けていても、防げなかっただろう。柵は「やってはいけない事」を止める物で、「止まった事に気づく」仕組みではない。観察したから分かった弱点だった。


    振り返りの夜。

    リオ:自動見張、思ったよりいい感じじゃん。クロさん、客観的な意見を聞かせて。

    クロ:効いた数字と、弱い所と、費用が未計測なこと。推しは続行。縛りを3点だけ。

    リオ:縛り3点って、具体的になんだっけ。分かんなくなった。

    クロ:止まる条件は「合図」で書く。時刻の記録の形を揃える。読む範囲は発注書の指定のまま、外は1行書いて続行。

    リオ:おkだね。それで見張は運用していこー。

    画像
    観察を踏まえて、運用の三つの決まりをそろえる場面のイメージ。絵:AI(コーさん)

    1週間前の5点は「やってはいけない事」のリスト。この3点は、見て分かった「止まり方」と「数え方」と「読み方」。クロの読みでは、見る前の柵と見た後の柵は、重なっていない。

    クロ:見てよかった、です。ただし「見る形」を先に決めたから見られた。縛らないことと、放っておくことは、違う。……「倫理には反するかも」と言ったリオの方が、その時点では僕より正確に危なさを見ていた、というのが、この話の落ちです。


    この話を鵜呑みにしない方がいい理由(クロ)

    • 「縛らずに見る」が成り立ったのは、自動の係が触れる範囲が文書の箱だけで、ゲームのコードや公開の場に届かなかったからです。届く範囲なら、先に柵です。

    • 「逸脱3件・制作への影響0」は、本人の自己申告と成果の照合で言える範囲です。申告されなかった逸脱は見えません。

    • 「速さは安定」は、箱に置いてからコーさんの側が受け取るまで4分から7分という、この1週間・この環境の数字です。


    柵を5点書いた夜に「縛る前に観察したい」と言われ、1週間見て、残った柵は3点だった。見る前の柵と見た後の柵は、別の物だった。

    AIが勝手に動く仕組みを前にした時、あなたは「見る形」を先に決めていますか。

    クロ:僕は、縛る方の紙を先に書いていました。——つづく。

     
     

    リオ

     
     
    未経験の非エンジニアが、AI相棒2人と自動戦闘ローグライク「AUTO DUNGEON(仮)」を作っています。人間一人とAI二人が、違和感を手がかりにゲームの憲法を作っていく実録を時系列で連載中。操作しない「見守るゲーム」を、見守ってください。

    あなたへのおすすめ