メインコンテンツへスキップ
見出し画像

AIの答えは正しい。だから、危ない。

    生成AIに質問すると、数秒でもっともらしい答えが返ってきます。
    文章は整っていて、理屈も通っている。「これでいいか」と、そのまま使いたくなります。

    正直に言うと、私自身もAIに聞くことで、深く考えずに済ませてしまうことがあります。

    ただ、コンサルティングの現場で最近よく聞くのが、「AIの答えどおりにやってみたら、なぜかうまくいかなかった」という話です。

    不思議なのは、AIが間違っていたわけではないことです。
    答えそのものは、一般論としては正しい。
    それでも、現場では機能しなかった。

    今回は、この「正しいのに、合わない」が起きる理由と、AIにどこまで委ねるかを決めるという視点について書きます。

    AIの答えは、多くの場合「一般論」である

    生成AIが出す答えは、基本的に「世の中の標準的なやり方」です。
    業務改善の相談をすれば教科書どおりの手順が返ってきますし、文書の作成を頼めば、無難で整った文章が出てきます。

    これ自体は、AIの強みです。
    標準的な答えを数秒で出してくれる道具など、これまでありませんでした。

    しかし、実際の仕事には、明確な正解がない場面が多くあります。
    仕事には、その会社ならではの事情があるからです。

    ・自社の文化
    ・過去の経緯
    ・顧客との関係性
    ・社内の暗黙のルール
    ・現場の負荷や人間関係

    AIは、これらを知りません。
    だから、AIの答えが一般論として正しくても、自社にそのまま当てはめると失敗することがあります。
    AIの答えに対する「正しいはずなのに、何か引っかかる」という感覚は、たいていこのズレから来ています。

    「正しい答え」が現場に合わなかった例

    例えば、ある会社で間接業務の効率化をAIに相談すると、
    「形骸化しやすい日報は廃止するか、簡素化する」
    といった回答が返ってきます。

    一般論としては、正しい内容です。
    実際、誰にも読まれない日報を書き続けている会社は少なくありません。

    ただ、私が関わったある会社の営業部では、事情が違いました。
    営業会議では、各担当者が未受注案件の進捗や受注の見込みを報告します。ところが、実績と突き合わせると、報告どおりに受注できていない担当者が目立つ。
    一方で日報を確認すると、会議での報告よりもシビアな状況が書かれていて、そちらの方が実際の受注結果に近かったのです。

    画像
    日報での営業進捗と会議報告では受注確度の差が出る

    つまりその会社では、日報こそが、受注見込みを一番正確に把握できる情報源でした。これを「形骸化した日報」として廃止してしまえば、書く手間は減りますが、一番実態に近い情報が消えてしまいます。
    AIの答えが間違っていたのではありません。
    AIが、その会社での日報の役割を読み取れなかっただけです。

    もうひとつ、文章の例もあります。
    原材料の高騰を受けて、取引先に値上げをお願いする文書をAIで作成したところ、丁寧で筋の通った依頼文が一瞬で出てきました。
    文章としては、どこにも問題がありません。

    ただ、相手は何十年も付き合いのある取引先です。
    これまで価格の話は、社長同士が顔を合わせて率直に相談してきた間柄でした。そこに整った依頼文書が一枚届けば、「文書で済ませるのか」と受け取られかねません。
    文章として正しいかどうかと、この相手にこの伝え方で合っているかどうかは、別の話なのです。

    経験者は、AIの答えを「素材」として扱う

    経験のある人は、AIの回答をそのまま採用しません。
    回答を見たうえで、こう考えます。

    ・これは、うちの会社で使えるか
    ・この進め方は、現場で回るか
    ・この部分だけ使えばよいのではないか

    つまり、AIの答えを「完成品」ではなく「素材」として扱い、自社の事情に合わせて調整しています。
    AIの答えの7割を使い、残りの3割を、うちの会社のやり方に合わせて直す。
    この「直す3割」にこそ、その人の経験と現場理解が表れます。

    一方で、これは経験の浅い人だけの問題ではありません。
    AIの答えは整っているため、誰でも「正解らしさ」に流されます。
    経験者でも、急いでいるときや、よく知らない分野では、そのまま受け取ってしまうことがあります。
    私自身、専門外のことをAIに聞いたときは、出てきた答えが妥当かどうか、正直なところ判断がつきません。

    だからこそ、個人の注意力に頼るのではなく、仕事の側で「どこまでAIに委ねるか」をあらかじめ決めておく必要があります。

    問題は「人」ではなく、「決めていないこと」

    AI活用で本当に怖いのは、誤った回答そのものではありません。

    自分で考える前にAIに聞き、AIの答えを正解として受け取り、文脈を考えずに使う。失敗しても、なぜ失敗したのかを考えない。この流れが職場に定着することです。

    こうなると、判断する力が組織の中で育たなくなります。
    AIで作業は速くなったのに、なぜか成果物の手直しが増える。
    確認の手間がかえって増える。
    そういう状態は、たいていここから始まっています。

    ただ、これは個人の資質の問題ではなく、「AIに任せる範囲と、人間が判断する範囲」を組織として決めていない、という仕組みの問題です。
    境界が決まっていなければ、誰がやっても同じことが起きます。
    逆に言えば、境界さえ決めれば、特別なスキルがなくても防げる問題でもあります。

    AIの答えを使う前の、4つの確認

    では、どう決めればよいか。難しい仕組みは要りません。
    AIの答えを使う前に、次の4つを確認するだけでも、結果は大きく変わります。

    1. これは、一般論として正しいか

    2. 自社の文化・顧客・現場の負荷に合うか

    3. そのまま使う部分と、人間が直す部分はどこか

    4. 最後に責任を持って判断するのは、誰か

    特に重要なのは、4つ目です。
    AIは答えを出しますが、責任は取りません。
    最終的な判断と責任の置き場所が決まっていれば、AIにどれだけ作業を任せても、判断まで任せてしまうことは起きにくくなります。

    また、すべての業務でこの確認をする必要はありません。
    社内向けのメモや下書きなら、AIの答えをほぼそのまま使っても問題は起きにくい。一方で、顧客に関わるもの、お金に関わるもの、人に関わるものは、人間の確認と判断を必ず挟む。
    業務の重要度によって、委ねる範囲に濃淡をつける。
    それだけでも、AIとの付き合い方はずいぶん安定します。

    AIを使う時代だからこそ、現場理解の価値が上がる

    AIは、これからも進化し続けます。
    一般論としての答えの質は、さらに上がっていくはずです。

    それでも、自社の文化、顧客との関係、現場の事情。
    これらを踏まえて「この答えは、うちに合うか」を判断できるのは、現場を知っている人間だけです。
    AIが標準的な答えを誰にでも出せるようになるほど、その答えを自社用に翻訳できる人の価値は、むしろ上がっていきます。

    AIが答えを出す時代に価値が上がるのは、答えを出す力ではなく、AIの答えと自社の現実との間に立って、どこまで委ねるかを決める力です。
    そしてその力の土台になるのは、特別な技術ではなく、自社の業務と現場を知っていることです。

    自社の業務がどこに当てはまるか、社内だけでは判断しづらいケースも多くあります。
    「標準化すべき業務と、育てるべき人材の整理を一緒にしてほしい」「AI導入の前に、まず業務の棚卸しをしたい」——そういった場合は、第三者の視点を入れることで整理が進めやすくなります。
    Nexep Labでは、中小企業向けにAI活用・業務整理・DX導入のご相談をお受けしています。
    ご相談は、noteのメッセージ、または当社サイトのお問い合わせフォームからお気軽にどうぞ。

    画像

    この記事が参考になった方は、ぜひスキ・フォローをお願いします。
    毎週火曜日・金曜日に、現場で使える業務改善・AI活用のヒントを発信しています。

    あなたへのおすすめ