
AIが、書いた記事を別のアカウントに入れた。2回目は、別の記事の上に貼った。今は毎回2回確かめさせている
10月15日の朝6時5分。
毎朝、AIが書いた記事を、noteの下書きに入れる作業が動いています。その日も、いつも通り動きました。
でも、入れるはずのアカウントに、記事がありません。
探すと、もう1つのアカウントの下書きに入っていました。
なぜ、違うアカウントに入ったのか
僕はnoteのアカウントを複数持っていて、ブラウザも、アカウントごとに分けています。AIは、そのブラウザを操作して記事を入れています。
問題は、どちらのブラウザがどのアカウントかが、日によって入れ替わることでした。AIから見えるブラウザの名前は「ブラウザ1」「ブラウザ2」のような番号です。その番号の割り当てが、つなぎ直すたびに変わります。
AIは、どのブラウザがどのアカウントかを確かめずに、記事を入れていました。
AIは「たぶんこっち」で進めた。 それが事故の原因でした。
直し1:番号ではなく、アカウント名で見分ける
それから、AIにはこう決めさせました。
ブラウザを使う前に、今ログインしているアカウント名を、画面の見た目ではなくデータで読む(noteには、ログイン中のユーザーを返すページがあります)
名前が違えば、何もしないで終わる
直し2:2回確かめる
1回の確認では足りませんでした。作業の途中で、別の作業がブラウザを動かすことがあるからです。
なので、確認は2回にしました。
作業を始める前
保存や公開のボタンを押す直前
この2回のどちらかで名前が違えば、止まります。
2回目の事故は、今日起きた
これで終わり、と言いたいところですが、11月17日、つまり今日、別の形の事故が起きました。
記事を2本続けて下書きに入れていた時のことです。1本目を入れ終わって、AIは2本目のために「新しい記事を作る」ページへ移ろうとしました。
ところが、1本目のページに「このページを離れますか?」という確認が出て、ページが移れていませんでした。
AIはそれに気づかず、移れたものとして、1本目の記事の上に2本目の本文を貼りました。 しかも、noteには自動保存があります。数秒後には、1本目の下書きが、2本の混ざったものに上書きされていました。
このときは、AIがページの場所(URL)が前のままなのを読んで気づきました。1本目の中身を入れ直して、まだ公開前だったので、外には出ていません。
直し3:移ったかを確かめてから貼る
この日から、確認を1つ足しました。
ページを移ったら、中身を入れる前に、今のURLが新しいものになっているかを読む
タイトル欄と本文が空であることを確かめてから貼る
前のページから移れない時は、同じタブで無理に移らず、新しいタブで開く
AIの事故は、だいたい「たぶん」で起きる
2つの事故は、どちらも同じ形でした。
たぶん、昨日と同じブラウザだろう
たぶん、ページは移れただろう
人間なら、画面を見て一瞬で気づくことです。でもAIは、確かめろと言われていないことは確かめません。
だから、取り消せない操作の前は、毎回、データで確かめさせる。 面倒でも、これが一番安い保険でした。
この会社の記録は、1本目の記事にまとめています。
次の記事では、AIが「ダメでした」で報告を終わらせなくなった、数行の指示の話を書きます。
この記事を読んでほしい人
AIに、ブラウザやアカウントの操作を任せている人
アカウントを複数持っている人