AIに全自動を任せる直前でやめた。候補6件のうち1件は、機械に触らせてはいけない行だった
6拠点・スタッフ約70名の会社を経営しています。自分の会社の実務を、AIで実際に直した記録を書いています。
今回は、自動化できると分かった作業を、あえて全自動にしなかった話です。
何が起きたか
毎週ひとつ、決まった作業があります。
社内に上がってきた申請を、社外の専門家と共有している管理ファイルに書き写す作業です。条件に当てはまる行だけを拾い、期日と金額を転記します。
難しい作業ではありません。ただ、申請は毎週出ます。溜めると、どこまで転記したかが分からなくなります。実際、今回は3週間ぶんが溜まっていました。
今回はまとめて処理することにしました。その前に、AIに聞きました。
「これ、毎週自動でやれないか」
前に同じことを聞いたときは「できない」という答えでした。ところが実機で試すと、普通に動きました。前の説明が間違っていたわけです。
技術的には、全自動にできる。そう分かった状態で、実際の3週間ぶんを手で処理しました。
その作業中に、全自動をやめる理由が3つ出てきました。
やめる理由が、同じ日に3つ出てきた
1. 原本を触っているのが、自分だけではなかった
前回、自分が保存したファイルを開いて、その続きから処理するつもりでした。
ところが合計が合いません。調べると、自分の前回保存のあとに、別の担当者が1行追加していました。
これは誰かのミスではありません。そういう運用だと私が把握していなかっただけです。
問題は、全自動にした場合です。機械は「前回の自分の保存の続き」を前提に動きます。間に入った他人の1行を、静かに無かったことにします。
以来、毎回まっさらに読み直す運用に変えました。
2. 判断の根拠が、自由記述の欄にあった
今回の候補は6件でした。そのうち1件は、転記してはいけない行でした。
理由は金額でも日付でもありません。備考欄に「この件は対象外」と日本語で書いてあったからです。
条件を機械に渡すなら、日付・金額・区分のような決まった形の欄に限ります。自由記述の日本語は、書く人によって表現が変わります。
そして自由記述の欄は、消せません。決まった形の欄に収まらない例外を、現場が書き残す場所だからです。ここを消すと、例外そのものが誰にも見えなくなります。
6件のうち1件。6分の1が、決まった形の欄だけでは判定できない行でした。
3. 事前チェックが、私の設定ミスを見つけて止まった
転記の前に、抽出条件をAIに検算させました。
そこで止まりました。私が指定した期間の区切りが、1つ前の週のままだったのです。そのまま走らせていれば、対象を取り違えていました。
止めてくれたから助かりました。ここが肝心です。
止まったのは、指示を出した私が間違えていたからです。データは正しく、手順も正しく、指示だけが古いままでした。
全自動には「止まって人に聞く」という動きがありません。 迷ったら、いちばん確からしい解釈を選んで進みます。今回のように「指示そのものが間違っている」場合、進めば必ず間違えます。
どう直したか：読むのは機械、書くのは人
全自動でも手作業でもない形にしました。
1. 毎週決まった曜日に、機械が読み取り専用で動く。管理ファイルと申請を突き合わせ、まだ転記していない候補を一覧に出す
2. 判断が要る行には印をつける。備考欄に何か書かれている行、金額が前回と違う行など
3. 書き込みは、人が一覧を見て承認してから
曜日は、申請の締めの翌日にしました。前日までの分が全部そろっている日です。
変わったのは探す時間です。3週間ぶんを目で追って「どれがまだ転記されていないか」を突き止める作業が、一覧を開く数十秒になりました。
書く時間は残っています。 そこは減らしていません。減らしてはいけない場所だと考えています。
学び（再現できる形で）
「自動化できるか」と「全自動にしてよいか」は別の問題。 前者は技術で決まり、後者はそのデータを触るのが自分だけかどうかで決まる
自由記述の欄が判断に効いている作業は、全自動にしない。 機械が読める欄だけで判定が閉じているかを、実物の数週間ぶんで数えて確かめる
全自動は「止まれない」。 指示が間違っていたとき、手作業なら気づくが、全自動は完走してしまう
分けるなら「読む／書く」で分ける。 探す・照合する・並べるは機械に寄せ、決める・書き込むは人に残す。時間の大半は探す側にある
作業を自動化するか決めるとき、私は3つ確かめています。
1. この原本を触るのは、自分だけか（他の人も編集するなら、毎回まっさらに読み直す）
2. 判断は、決まった形の欄だけで閉じているか（自由記述を読まないと決まらない行が何割あるか、実物で数える）
3. 間違えたとき、誰がいつ気づくか（誰も気づかないなら、そこは自動にしない）
今回は1つ目と2つ目で引っかかりました。だから半分だけ自動にしました。
AIを入れるときに一番やりがちなのは、できるから全部やらせることだと思っています。できることと、任せていいことは、重なっているようで少しずれています。
そのずれは、机の上では見えません。実際に手で1回やった日にだけ、見えます。
――
AIにどこまで任せるか、という話はほかにも書いています。
AIの定期処理2本が、実行記録だけ残して何も出していなかった
Googleサイトの社内ポータルをAIに直させたら、本文が1セクション消えた
同じくらいの規模の会社でAIを使う方へ。続きはフォローで届きます。
