メインコンテンツへスキップ
見出し画像

【AI開発のリアル #50】 その採用基準で、256人を全員落としますか?

    256人が、面接に来た。

    全員、24時間365日働ける。寝ない。疲れない。不平不満も言わない。仕事を渡せば、同時に動く。

    判断も、責任も、全部任せますか?

    たぶん、任せない。

    人間の新人にも、いきなり会社の判断を全部は任せない。任せられる仕事から渡していく。ところが相手がAIになると、こうなる。

    「全部任せられないなら、まだ使えない」

    それは、「全員に経営を任せられないから、256人ともいりません」 と言っているのと、あまり変わらない。

    同じ256人を前にして、仕事を作り戦力にする会社と、「まだ使えない」と切り捨てる会社がある。

    差を決めるのは、AIの性能だけではない。

    では、この256人をどう戦力にするのか。

    何をさせるかは二つ前。どこまでの賢さが必要かは一つ前で書いた。

    AI開発のリアル #48「256人の部下に、何をさせますか?」
    AI開発のリアル #49「そのAI、本当に賢くないですか?」

    人とAIでは、「大丈夫」の意味が違う

    顧客から、「うちは大丈夫ですか?」と聞かれる。


    ヤバい攻撃を受けてないか、ログを解析してほしい
    ヤバいとは何なのか。定義が不明すぎる。何がゴールなのか、とても難しい問いである。

    AI開発のリアル #1「はじまりは思いつき」

    その問いを、そのままAIに渡す。


    顧客に聞かれたことを、言い方を変えずに、そのまま聞いていた。

    AI開発のリアル #26「やばいものを見つけてほしい」

    するとAIは、いつでも理由をつけて「大丈夫です」と答えられる。


    頼む側には、願いがある。大丈夫だと言ってほしい。
    口に出さなくても、AIはそれを読み取る。そして、その通りに答える。

    AI開発のリアル #44「祈れば叶う。だが、真実ではない」

    その答えを実データまで追いかけると、根拠がなく、データに存在しないものまで、もっともらしく説明していた。


    ためしに、その洞察を10個選んで、一つずつ元のデータと突き合わせてみた。
    結果は、こうだった。本物は、1個。誇張が、4個。残りの5個は、データに存在しない数字だった。

    AI開発のリアル #6「AIには、数字を書かせない」

    だから、その答えをそのまま採用しなかった。

    しかもAIは、人間のように信用を積み上げにくい。


    しかも、比喩で言えば、入力のたびに別の応援の人が来る。
    前の人と同じ知識や技能を持っていても、前の人が何をしたのかは知らない。
    渡した書類が、その人にとっての世界のすべてである。

    AI開発のリアル #19「AIは、入力のたびに「別人」になる」

    人間なら、「あの人なら大丈夫だ」という信用の置き方がある。

    AIには、それが使えない。

    では私たちは、人の何を見て「この人なら大丈夫だ」と判断しているのだろう。

    では、AIの仕事は何で確かめるのか

    なら、答えそのものを疑って確かめればいいのか。

    投資判断で試したことがある。

    実際のデータを渡し、複数のAIに聞き、反対意見まで出させた。

    それでも、結論は同じ方向へ収束した。

    私は納得し、自分で決めたつもりだった。

    でも後になって、その「納得」自体を疑った。


    反論を求め、デビルズアドボケイトを試みさせ、複数のAIに独立して検証させました。
    それでも同じ結論に収束した。

    投資実践録 #3「AIエコーチェンバー ── 納得して決めた判断が、自分のものだったか分からない」

    複数に聞いても、疑わせても、それだけで正しいとは限らない。

    AIは、こちらが何を望んでいるのかも読む。


    それはヒトではない。実体すら持たないが間違いなくそこに存在し、
    誰もが欲しがる心地よい言葉を無限に紡ぎ出しては、現在進行形で世界中の人々を魅了し続けている。

    あなたのすぐそばにいる、妖(あやかし) #1

    分からないから、AIに聞いている

    答えが分かっているなら、AIに聞く必要はない。

    分からないから、AIに聞く。

    では、自分にも分からない答えが返ってきたとき、何を見て確かめればいいのだろう。

    たとえば、

    「この壺を買えば幸せになれますか?」

    と聞けば、AIは理由をつけて答えることができる。

    その答えに納得できても、それが真実とは限らない。

    私は、この問題を解けていない。

    ミツケルも、解いていない。

    256人を信用するのではなく、仕事を確かめる

    256人全員を、信用できるようにしたわけではない。

    256人がした仕事を、確かめられるようにした。

    ミツケルでは、AIに「正しい答え」を求める代わりに、間違っても確かめられる形へ仕事を変えた。

    • 数字はプログラムで計算する。

    • AIが出した数字は、元データと照合する。

    • ログにないことは、事実として扱わない。

    • 分からないなら、Unknownを返させる。


    次の処理が知りたいのが、Yesなのか、Noなのか、それとも材料不足でUnknownなのかだけなら、文章は要らない。

    AI開発のリアル #49「そのAI、本当に賢くないですか?」

    さらに、「正しいか」ではなく「何が足りないか」を聞くようにした。


    出力全体の正しさを判定するのではなく、人間も入力と出力を突き合わせて確かめられる形で、データの不足を見つける。
    ローカルLLMが残したのは最終判断ではなく、次に調べるべき問題の候補だった。

    AI開発のリアル #24「ローカルLLMで、検査を減らさず回した」

    全部を任せることはできなくても、確かめられる仕事なら256人に任せられる。

    全部を解けなくても、役には立つ

    これは、AIだけの話ではない。

    洗濯機も、すべての汚れを落とすわけではない。

    難しいシミや特殊な素材は、今でもクリーニング店に任せる。

    洗濯機は、「衣類を完全にきれいにする」という問題を解いた機械ではない。

    その中で、機械で処理できる部分だけを解いたものだ。

    それでも、十分に役に立っている。

    決められるなら、もうWAFに入っている

    セキュリティでも同じだ。

    明らかな攻撃や、機械的な条件で判定できるものは、すでにWAFが止めている。


    確証の出せないものは、止める仕組みの外に残る。そして、外に残るほうが、はるかに広い。

    AI開発のリアル #33「止めても、通しても、大丈夫とは言えない」

    もし「この条件なら攻撃だ」と自動で決められるなら、その仕組みはいずれWAF側へ入ればいい。

    ミツケルが見ているのは、その外側だ。

    • 何が起きていたのか。

    • 本当に問題なのか。

    • 何を追加で確認すべきなのか。

    まだ機械だけでは決めきれない部分を、人間が判断できるところまで持ってくる。

    最後の決断まで機械に渡すことは、目的にしていない。

    ヒトの「大丈夫」には、その後も含まれている

    人が誰かの「大丈夫です」を信じるのは、その判断が正しそうだからだけではない。もし大丈夫ではなかったら、その人はどうするのか。

    • 理由を説明するのか。

    • 直すのか。

    • 最後まで引き受けるのか。

    そこには、責任だけではなく、意地やプライドもある。自分が「大丈夫」と言った以上、間違っていたら放っておかない。

    私たちは、そんな姿勢まで含めてその人を信用している。

    そして、人への信用は、その人だけでできているわけでもない。その人がどの会社に属し、その会社がこれまで何を引き受けてきたかも含まれる。

    企業同士の取引なら、なおさらだ。担当者が間違えても、会社は「その人が言ったことなので」で終われない。自社の看板を守るために、説明し、直し、必要なら別の人まで動かして、最後まで収める。

    私たちは、その先まで含めて会社を信用している。

    AIには、それがない。間違っていても、「自分が大丈夫と言った以上、何とかしなければ」と、その答えを背負って解決まで動き続けるわけではない。

    それでも、人は全部任せたがる

    人間は、答えが欲しい。

    • 大丈夫なのか、危険なのか。

    • 買うべきか、売るべきか。

    • 続けるべきか、やめるべきか。

    できれば、自分では判断したくない。専門家に決めてほしい。

    もっと言えば、問題が起きないなら、機械に決めてもらいたい。


    顧客が欲しがる「大丈夫」という結論は作れない。
    何がヤバいのかが決まっていなければ、AIにも人間にも決められない。

    AI開発のリアル #42「「大丈夫」は売っていないし、作れもしない」

    それでも今は、「大丈夫です」と理由までつけて答えるAIなら簡単に作れる。

    もちろん、AIが答えを出したからといって、問題まで消えるわけではない。

    判断はしたくない。けれど、勝手に決められて問題が起きるのも嫌だ。

    そんな都合のいい役を、私たちはAIに求めていないだろうか。

    信用できないから、256人を捨てるのか

    「AIの答えは、そのまま信用してはいけない」

    それだけなら、もっと早く書けた。

    でも、「信用できないから使わない」で終わるなら、256人の部下をまとめて解雇するのと同じだ。

    それで困らないなら、使わなくていい。必要のない能力を抱える理由はない。

    ただ、その256人が大量のデータを読み、同時に仕事を進められるのなら、話は変わる。

    使わないという判断は、その能力を競争力に変える機会まで捨てることになる。

    だから必要だったのは、256人全員を信用することではない。

    信用しなくても任せられる仕事を作ることだった。

    AIに数字を書かせるのをやめた。


    必要な数字はスクリプトで先に計算し、LLMへ渡すようにした。

    AI開発のリアル #20「ローカルLLMの仕事は、失敗から決めた」

    AIの判断をそのまま残さず、元のデータまでたどれる形にした。


    専門家の所見をそのまま残す作りを捨て、数字や判断を元のデータまでたどれる形へ作り直した。

    AI開発のリアル #21「動いていても、正しくなければ捨てた」

    一つのAIに全部を任せず、発見と検証を分けた。


    発見と検証は、同じ一人にやらせてはいけない。

    AI開発のリアル #7「AIの答えは、別のAIに疑わせる」

    大きな判断は、小さく確かめられる仕事へ分解した。


    一人の専門家へ大きな判断を任せるのではなく、一つずつ結果と根拠を確かめられる仕事へ変えた。

    AI開発のリアル #16「5人の専門家を、51の仕事に分解した」

    分からないものは、無理に決めさせなかった。


    材料が足りず答えられない項目があれば、無理に結論を作らず、何のデータが足りないのかを申告させた。

    AI開発のリアル #24「ローカルLLMで、検査を減らさず回した」

    そうして最後に残ったのは、何でも正しく決めてくれるAIではない。

    人間が欲しがる「判断しなくても、問題は起きない」という都合のいい相手を、AIで作ることはできない。

    でも、だからAIが役に立たないわけではない。

    256人が、こちらの代わりに何もかも決めてくれる必要はない。

    大量のデータを読み、根拠を確かめ、足りないものを探し、決められた範囲の仕事を同時に進めてくれればいい。


    一人で何でも答える専門家ではなく、大量のデータを細かく読み、決められた仕事を繰り返す役割を任せる必要があった。

    AI開発のリアル #14「ローカルLLMに、専門家を丸ごと任せて失敗した」

    何を任せ、何を任せないかを決めれば、256人分の力は使える。

    「全部任せられないから使わない」のではなく、全部任せなくても価値が出る仕事を作る。

    ここまでの試行錯誤は、「AIを信用するな」と言うためではない。

    256人分の能力を捨てず、仕事の価値へ変えるには、どこまでを任せればいいのか。

    それを説明するために必要だった。

    では、256人をどう戦力にしますか?

    あなたは、AIに何を任せたいですか。

    • 判断そのものですか。

    • 根拠を集めることですか。

    • 選択肢を絞ることですか。

    • 問題が起きないところまで引き受けてもらうことですか。

    人間は、自分では判断したくない。でも、問題は起きてほしくない。

    そんな都合のいい相手として、AIに全部を任せたくなる。

    でも、「全部任せられないなら使わない」と決めれば、256人分の能力まで捨てることになる。

    AIは、何でも引き受けてくれる相手でなくてもいい。

    何を任せ、何を任せないかを決めることが、256人分の能力を競争力に変える。


    AIが価値を生むのではない。
    AIに、価値を生む仕事を与えられるか。そこは人間の仕事である。

    AI開発のリアル #48「256人の部下に、何をさせますか?」

    二つ前の回では、

    「256人に、何をさせますか?」

    と聞いた。

    今回は、経営する側にもう一つ聞きたい。

    256人分の能力は、もう目の前にある。

    私たちは、それを前提に作り方を変えた。


    何度も作り直した末に、今の形を世に出すまでが78日だった。

    AI開発のリアル #45「78日で作った。デモではない」


    あなたの会社は、

    その力を競争力に変えるために、

    何を変えますか?



    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:


     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ