AIに任せるほど、プレッシャーを感じるのはなぜなのか
AIに任せた仕事の成果物を受け取って、その出来栄えに感心しながら、なぜか肩が重くなる。
作業は減ったはずなのに、以前より強いプレッシャーを感じている。そんな経験は、ないでしょうか。
たとえば、AIに整理させた資料をほとんどそのまま会議に持っていって、内容は何ひとつ間違っていないのに、うっすらとした後ろめたさが残る。あるいは「この案の弱点はどこですか」と問われた瞬間、資料に書いていないことを自分の言葉で言えず、一拍だけ言葉に詰まる。そういう小さな居心地の悪さが、この一年で確実に増えたという方は、少なくないのではないでしょうか。
私自身、新規事業の現場で日々AIを使い倒している側の人間です。この速度を手放す気はまったくありません。それでも、判断を下す瞬間の重さだけは、以前より確実に増している気がしていました。
楽になったはずなのに疲れている。誰かに話しても「便利になったんだから、いいことじゃないですか」で終わってしまいそうで、言葉にすることをどこかで諦めていたのだと思います。
この感覚に名前をつけてくれたのは、AIとはまったく関係のない、三十年近く前の航空業界でした。そして同じ場所に、対処法まで置いてありました。
自動化を突き詰める怖さ
一九九七年、アメリカン航空の訓練施設で、ウォーレン・ヴァンダーバーグという機長がひとつの講義を行いました。タイトルは「マゼンタ線の子どもたち」といいます。
マゼンタ線とは、コックピットの計器画面に飛行管理システムが自動で描き出す、進路を示すマゼンタ色の線のことです。操縦士はその線に沿って飛んでいけば、余計なことを考えなくても目的地まで正確にたどり着けます。当時最新鋭だった自動化ジェット機では、離陸から着陸までのほとんどをシステムが担ってくれました。
その結果、操縦士の仕事は「飛ばすこと」から「監視すること」へと静かに移り変わっていきます。計器を眺め、システムが正しく作動しているかを確認し、必要なときだけ数値を入力する。傍から見れば、それは高度に洗練された仕事に映りました。
ヴァンダーバーグが危惧したのは、自動化そのものではありません。操縦士たちがこの線を追いかけることに慣れすぎた結果、自分の手で飛行機を飛ばす技能を失いつつあるという事実でした。彼らはもう飛行機を操縦しておらず、自動化を管理しているだけになっていたのです。
そして訓練部門が事故と重大インシデントと違反事例を洗い直したところ、そのうち六十八パーセントが「自動化の使い方の誤り」に起因していました。
この数字が指しているのは、機械が壊れたという話ではありません。機械はどれも正常に動いていて、それを使う人間の側が「いつ、どの機能に頼るべきか」を見誤っていたということです。
彼はこうした操縦士を「自動化依存の操縦士」と名づけました。三十年近く経った今もこの講義が語り継がれているのは、これが飛行機だけの話ではないと、多くの人が薄々気づいているからでしょう。
経験値が高いビジネスマンほど危険
ここで、こう考える方は多いはずです。それは経験の浅い操縦士の話であって、熟練者なら大丈夫だろう、と。
私も最初はそう思いました。ところが、人間と自動化の関係を扱う研究領域には、その希望的観測を打ち砕く知見が積み上がっています。
この現象は「自動化による慢心」と呼ばれ、心理学者ラジャ・パラシュラマンらによって長く研究されてきました。そこで繰り返し確認されているのは、次の二点です。
ひとつめは、この慢心が初心者にも熟練者にも等しく起きるということ。積み上げてきた経験は、残念ながら防波堤になってくれません。
ふたつめは、単純な訓練や注意喚起では克服できないということ。研修で「気をつけましょう」と唱えても、ほとんど効き目がないのです。
さらに厄介なことに、この慢心は相手の信頼性が高いときほど強く出ることがわかっています。しょっちゅう間違える相手には、人は自然と身構える。ところが滅多に間違えない相手に対しては、検算という工程そのものを、無意識のうちに省略してしまう。
しかもこれは、航空業界に限った話ではありません。同じ現象は船舶の航行でも、医師による臨床診断の現場でも、長く問題として指摘されてきました。自動化された支援システムが正常なあいだは誰も困らない。ところがシステムが誤った答えを出したとき、それを見抜けるだけの腕が人間の側に残っていない。専門性の高さも、資格の重さも、この落とし穴の前ではあまり関係がなかったということです。
思い当たる節が、私にもあります。精度の粗いツールを使っていた頃は、出てきた数字を何度も突き合わせて確認していました。ところが出力の質が上がるにつれ、「たぶん合っているだろう」で通してしまう回数が、自分でも気づかないうちに増えていったのです。
意志が弱いからではありません。人間がそういう仕組みで動いているというだけの話です。
そして生成AIの出力は、年々「滅多に間違えない」に近づいています。つまり私たちが検算をサボる条件は、日を追うごとに揃ってきている。しかもそれは注意力の問題ではないので、根性では解決できません。
単純作業は、判断軸を”手触り感”としてこっそり与えてくれていた
ここまでは、飛行機の話に見えて、実は私たちの日常の話でした。
考えてみれば、かつての仕事において「調べること」と「決めること」は、分かちがたい一つの塊でした。
競合を三十社洗い出す。その退屈な作業の過程で、どこが本当に脅威で、どこが見かけ倒しなのかが、数字ではなく手触りとしてわかってくる。顧客に二十回話を聞きにいく。十五回目あたりで、自分が最初に用意していた質問が根本的にズレていたことに、ようやく気づく。
この、言葉になる手前の感覚を、私は「手触り感」と呼んでいます。
数字でも資料でもなく、自分の指先に残った何か。そして厄介なことに、これは判断のときにしか役に立たないくせに、判断のときには決定的に効くのです。
つまり単純作業とは、判断の材料を集める行為であると同時に、判断軸そのものを手触り感というかたちで、こっそり配ってくれる行為でもあったわけです。誰も教えてくれませんでしたが、あの退屈な時間には、そういう役割がありました。
AIは、この塊を真っ二つに切り分けました。調べる部分は数秒で終わるようになり、決める部分だけが、まったく手つかずのまま残された。手触り感を配ってくれていた工程だけが、静かに消えたのです。
肩が重い理由は、ここにあります。
判断材料の質は上がりましたし、判断にかかる時間も短くなりました。それなのに、判断そのものが背負う重さだけは一グラムも軽くなっていません。それどころか、手触り感を持たないまま決めなければならない分、判断という行為が裸のまま剥き出しになる。
私たちもまた、きれいに引かれた線を追いかけているうちに、自分の手で飛ぶ感覚を少しずつ手放しているのかもしれません。
手触り感をどう得るか
では、失われた手触り感を、どうやって取り戻せばいいのか。
答えを先に言えば、AIを使うのをやめる必要はまったくありません。ヴァンダーバーグも「自動操縦を切れ」とは一度も言っていない。自動化は安全性を飛躍的に高めた技術であり、それを捨てるのは単なる退化だからです。
彼が教えたのは、自動化には段階があり、状況に応じて適切な段階を選ぶことこそが操縦士の仕事だ、という考え方でした。
彼の整理では、自動化は三段階に分かれます。すべてをシステムに委ねる完全自動。高度や方位など一部だけを機械に任せる部分自動。そして自分の手で操縦する手動です。
そのうえで彼は「使えるからといって、常に最高レベルを選ぶ必要はない」と説きました。むしろ状況が込み入ってきたときや、何かがおかしいと感じたときこそ、あえて一段下のレベルへ降りるべきだというのです。
これは直感に反する教えです。忙しいときほど、複雑なときほど、できるだけ機械に任せて楽をしたくなるのが人情ではないでしょうか。しかし彼の指摘は逆でした。難しい局面ほど、自分が状況を掌握している感覚を取り戻したほうが、結果的に安全なのです。
これはそのまま、私たちの仕事に持ち込める考え方だと思いました。AIを使うか使わないかという二択で考えるのをやめて、「この案件では、どの段階で仕事をするのか」を毎回選ぶ。私はこれを「一段、手に戻す」と呼んでいます。手触り感は、この一段の中でしか手に入りません。
実際にやっているのは、拍子抜けするほど単純な二つだけです。
ひとつは、自分が決めなければならない論点だけは、AIに聞く前に自分の言葉で書き出しておくこと。この順番が逆になると、提示された論点リストの中から選ぶだけの作業になります。それは自分で選んでいるようでいて、実際には選ばされている。だから粗くて構わないので、先に自分の見立てを紙の上に置いておく。そのあとAIに完膚なきまでに叩き潰されるのは構いません。潰された経験のほうが、手触りとして深く残るからです。
もうひとつは、現場に足を運ぶ回数を増やしたことです。AIがまだ持っていない情報は、もはや「調べればわかること」の中には存在しません。担当者がふと見せた表情、張り詰めた会議室の温度、核心を突かれたときに言い淀んだ半秒の沈黙。データとして記録されていないものの中にしか、差になる情報は残っていない。AIが賢くなるほど、靴底を減らす価値が上がっているのは皮肉な話です。
念のため書いておくと、これを毎回やる必要はありません。ヴァンダーバーグも「常に手動で飛べ」とは言っていない。どの案件で一段降りるかを選ぶこと自体が、判断力の訓練になっているのだと思います。
権限がない人ほど、手触り感は取りに行ける
ここまで書くと、こういう声が聞こえてきそうです。決裁権のない立場の人間にとって、これは他人事ではないのか、と。
まったくもっともな指摘でしょう。決める権限を持たない人に向かって「判断軸を取り戻せ」と説くのは、たしかに酷な話です。
ただ、決裁権と手触り感は、まったく別のものだと私は考えています。前者は会社から与えられるものですが、後者は誰の許可も要らないからです。
会議で「この案、どこが一番危ういと思う」と聞かれたとき、資料に書いていないことを自分の言葉で答えられるかどうか。そこに権限は関係ありません。そして正直なところ、その一言が言えるかどうかで、その人がどう見られるかは決まってしまいます。
むしろ決裁権を持たない立場のほうが、この訓練は積みやすいとすら思います。決める側は結果への責任を負っている分、どうしても慎重になり、失敗を避けようとする。ところが権限がなければ、間違った見立てを口にしても、失うものは自分の面子くらいのものです。安全に外す経験を積めるのは、権限を持つ前の期間だけなのかもしれません。
そして手触り感を先に持っていた人のところにだけ、あとから権限が回ってくる。その順番が逆になった例を、私はほとんど見たことがありません。
最後に残るのは、手触り感だけ
AIによって仕事から抜き取られるものと、どうしても抜き取られずに残るもの。その境界線が、この一年でずいぶんはっきりしてきた気がします。
抜き取られるのは、調べること、整理すること、見栄えよくまとめること。乱暴にまとめれば、正解が存在する仕事のすべてです。
残るのは、正解がまだどこにも存在しない場所に、それでも旗を立てること。そして旗が倒れたときに自分も一緒に倒れることを、あらかじめ引き受けておくこと。その二つを支えるものが、結局のところ手触り感しかないのだと思います。
そう考えると、冒頭のプレッシャーは、悪いものではないのでしょう。軽くなった部分は、そのまま何かに代替されたということです。だとすれば残った重さは、まだ自分がその場所に必要とされていることの、いささか不器用な証明なのだと思います。
マゼンタ線は、間違いなく便利です。ほとんどの日は、その線に素直に沿って飛んでいればいい。
ただ時々でいいので、今日は一段手に戻すかと、操縦桿を握り直してみる。指先に残ったわずかな手触りを、誰のためでもなく自分のために確かめておく。
その積み重ねだけが、線が消えた日に自分を助けてくれるのだと思います。
