第44回｜AIに任せた仕事、いつ確認する？｜「最後にレビュー」では遅い理由
AIに仕事を任せる。
最近では、ChatGPTを使って文章を書いたり、情報を整理したり、調査したりすることも珍しくなくなりました。
さらにAIエージェントなどを使えば、単発の作業ではなく、複数の工程をAIに任せることも考えられます。
そうなると、こんな疑問が出てきます。
AIに任せた仕事を、いつ確認すればいいのだろう？
最後に完成したものだけ確認すればいいのでしょうか。
それとも、途中でも確認した方がいいのでしょうか。
私は、AIに仕事を任せるほど、
「何をAIにやらせるか」だけではなく、「どこで人間が確認するか」を先に設計することが重要になる
と考えています。
1．「最後にレビュー」では遅いことがある
例えば、AIにこんな仕事を任せたとします。
顧客から受け取った資料を分析して、システム化するための要件案を作ってください。
AIは資料を読み、
情報を整理する
課題を抽出する
要件候補を作る
要件を分類する
最終資料にまとめる
という流れで作業したとします。
最後にSEがレビューして、
「この要件、方向性が違うな」
と気づきました。
問題はここからです。
もしAIが途中で作った内容を、その後の工程でも使い続けていたら、
最初の小さなズレが、最後には大きなズレになっている
可能性があります。
例えば、
顧客の「入力作業を減らしたい」
という要望を、
「入力画面を高機能化したい」
とAIが解釈してしまったとします。
その解釈をもとに、
要件を作る
↓
画面を設計する
↓
開発内容を整理する
↓
資料を作る
と進んでしまえば、最後のレビューで間違いに気づいたとしても、かなりの手戻りになります。
だからこそ、
完成してから確認するのではなく、途中で方向を確認する
という考え方が必要になります。
2．では、いつ確認すればいいのか？
ここが今回、一番伝えたいところです。
「途中で確認しましょう」と言われても、
どのタイミング？
となります。
AIが10分作業したら確認する。
1時間作業したら確認する。
という話ではありません。
重要なのは、
AIがどれだけ作業したかではなく、その仕事が次に何を生み出すのかを見ることです。
私なら、まず次の3つを確認ポイントの判断軸にします。
① 次の工程の「前提」になる前
AIの作業結果が、そのまま次の工程の前提になるなら、その前に確認します。
例えば、
ヒアリング内容の整理
↓
確認
↓
要件候補の作成
という流れです。
ヒアリング内容の整理結果が間違っていれば、その後に作る要件候補も間違った方向に進む可能性があります。
だから、
「次の工程が、この結果を前提にして進む」
という場所にはチェックポイントを置きます。
3．② 手戻りが大きくなる前
もう一つは、
間違ったまま進むと、修正コストが大きくなる場所
です。
例えば、
要件候補
↓
画面設計
↓
開発
↓
テスト
という工程があるとします。
要件候補の段階で間違いに気づけば、修正は比較的小さく済みます。
しかし、開発まで進んでから、
「そもそもこの要件が違いました」
となれば、大きな手戻りになります。
だから、
「ここを過ぎると、間違えたときの修正コストが大きくなる」
という場所にも確認ポイントを置きます。
これはシステム開発のレビューと同じ考え方です。
4．③ 取り返しがつかなくなる前
そして、AIエージェントなどを考えると、もう一つ重要なポイントがあります。
それが、
取り返しがつかなくなる前
です。
例えば、
メールを外部へ送信する
顧客へ回答する
データを更新する
情報を公開する
データを削除する
発注する
システムを変更する
といった処理です。
こうした処理は、一度実行すると簡単には元に戻せない場合があります。
そのため、
AIがメール本文を作る
ところまでは任せても、
「このメールを送信します」
という直前では、人間が確認する。
という設計が考えられます。
つまり、
AIにどこまで任せるかではなく、「人間の確認なしに進めてはいけない地点」を決めておく。
これが重要です。
5．「全部途中で確認する」わけではない
ここは注意したいところです。
この記事を読んで、
「じゃあAIが何かするたびに、人間が確認すればいいんだ」
となってしまうと、AIを使うメリットが小さくなります。
AIに任せる意味は、
人間がすべての作業を確認することではありません。
むしろ、
確認する価値が高い場所にだけ、チェックポイントを置く
ことが重要です。
例えば、
単純な文章の表現を整えるだけなら、毎回確認する必要はないかもしれません。
一方、
顧客の要望を解釈する
要件を決める
外部に情報を送る
データを書き換える
多額のコストが発生する
後戻りが難しい
といった場面では、確認する価値が高くなります。
つまり、
「すべて確認する」のではなく、「間違えたときの影響が大きいところを確認する」
という考え方です。
6．AIに仕事を任せる前に決めておくこと
ここまでの話を踏まえると、AIに仕事を任せる前に、いくつか決めておくと安心です。
① 何を目的としているのか
AIに何を達成してもらいたいのか。
目的がずれていれば、AIがどれだけ正確に作業しても意味がありません。
② どこで確認するのか
次の工程の前提になる場所。
手戻りが大きくなる場所。
取り返しがつかなくなる場所。
こうしたポイントをあらかじめ決めておきます。
③ 何を見て「順調」と判断するのか
例えば、
目的から外れていない
前提条件を守っている
必要な情報が揃っている
推測と事実が混ざっていない
などです。
「確認する」だけではなく、
何を確認するのか
まで決めておきます。
④ どんな状態になったら人間に戻すのか
例えば、
情報が不足している
複数の解釈がある
矛盾がある
重要な判断が必要
外部へのアクションが必要
コストや納期に大きく影響する
といった状態です。
このような条件を、
「ここまで来たらAIだけで進めない」
というルールにしておきます。
⑤ 何をもって完了とするのか
AIが、
「作業が完了しました」
と言ったから完了。
ではありません。
例えば要件整理なら、
必要な情報が整理されている
未確認事項が明確になっている
重要な矛盾が解消されている
SEが確認している
必要に応じて顧客との認識合わせができている
など、人間側で完了条件を決めます。
7．実際には「AI → 確認 → AI → 確認」で進める
ここまでの考え方を、要件定義に当てはめてみます。
例えば、
AI
ヒアリング内容を整理する
↓
SE
「顧客の発言とAIの解釈が混ざっていないか？」
を確認する。
↓
AI
課題や要望から要件候補を作る。
↓
SE
「この要件候補は、本当に課題を解決するものになっているか？」
を確認する。
↓
AI
不足情報や追加確認事項を整理する。
↓
SE
顧客に確認する内容を判断する。
↓
顧客
認識を確認する。
↓
SE
要件として確定する。
このように、
AIに一気に最後までやらせるのではなく、重要な境界に人間のチェックポイントを入れる。
これが今回の考え方です。
8．AIを信用するか、信用しないかではない
ここも重要です。
途中確認を設けるのは、
「AIは信用できないから」
ではありません。
AIが正しく仕事をしていても、確認ポイントは必要です。
例えば、AIが与えられた条件の中で完璧に分析していたとしても、
「そもそも分析する対象が違っていた」
なら、その結果は使えません。
AIの能力の問題ではありません。
目的や前提を決める側の問題です。
だから、
「AIを信用するか、信用しないか」
という二択ではなく、
「どこまでAIに任せ、どこで人間が確認するか」を最初に設計する。
という考え方が重要になります。
9．AIに仕事を任せるのではなく、仕事の流れを設計する
ここまで考えると、AI活用に対する見方が変わってきます。
これまでは、
「AIに何をやらせよう？」
と考えることが多かったと思います。
これからは、
「AIに何をやらせて、どこで確認しよう？」
まで考える必要があります。
つまり、
AIに仕事を任せるのではなく、AIが仕事を進める仕組みを設計する。
ということです。
これは、SEがこれまでシステム開発でやってきたことともよく似ています。
設計レビューをする。
途中で確認する。
テストする。
問題があれば戻す。
そして、受け入れ条件を満たしているか確認する。
AIとの仕事でも、
「どこで確認し、どこで止め、どこから人間が判断するのか」
を設計する。
そう考えると、AI活用は単なるプロンプトの工夫ではなくなります。
まとめ
AIに仕事を任せることで、これまでより多くの作業を短時間で進められるようになります。
しかし、
「最後に人間がレビューすればいい」
と考えるだけでは、手遅れになることがあります。
大切なのは、
AIの作業時間ではなく、仕事の境界とリスクを見て確認ポイントを設計することです。
特に意識したいのは、この3つです。
① 次の工程の前提になる前
② 手戻りが大きくなる前
③ 取り返しがつかなくなる前
そして、すべてを確認する必要はありません。
間違えたときの影響が大きい場所に、人間のチェックポイントを置く。
そのうえで、
目的
確認基準
人間に戻す条件
完了条件
を決めておく。
そうすれば、
「AIに丸投げする」
のではなく、
「AIに仕事を任せながら、人間が重要なポイントをコントロールする」
という仕事の進め方ができます。
第43回では、
AIが作った答えを、SEはどう評価するのか
を考えました。
今回の第44回では、そこから一歩進んで、
AIに仕事を進めさせるとき、SEはどこで確認するのか
を考えました。
AIに任せられる仕事が増えるほど、
「AIをどう使うか」だけではなく、「AIと人間の仕事をどう設計するか」
が重要になっていくのではないでしょうか。
いいなと思ったら応援しよう！
よろしければ応援お願いします！ いただいたチップはクリエイターとしての活動費に使わせていただきます！