
【AI開発のリアル #50】 その採用基準で、256人を全員落としますか?
256人が、面接に来た。
全員、24時間365日働ける。寝ない。疲れない。不平不満も言わない。仕事を渡せば、同時に動く。
判断も、責任も、全部任せますか?
たぶん、任せない。
人間の新人にも、いきなり会社の判断を全部は任せない。任せられる仕事から渡していく。ところが相手がAIになると、こうなる。
「全部任せられないなら、まだ使えない」
それは、「全員に経営を任せられないから、256人ともいりません」 と言っているのと、あまり変わらない。
同じ256人を前にして、仕事を作り戦力にする会社と、「まだ使えない」と切り捨てる会社がある。
差を決めるのは、AIの性能だけではない。
では、この256人をどう戦力にするのか。
何をさせるかは二つ前。どこまでの賢さが必要かは一つ前で書いた。
AI開発のリアル #48「256人の部下に、何をさせますか?」
AI開発のリアル #49「そのAI、本当に賢くないですか?」
人とAIでは、「大丈夫」の意味が違う
顧客から、「うちは大丈夫ですか?」と聞かれる。
ヤバい攻撃を受けてないか、ログを解析してほしい
ヤバいとは何なのか。定義が不明すぎる。何がゴールなのか、とても難しい問いである。
その問いを、そのままAIに渡す。
顧客に聞かれたことを、言い方を変えずに、そのまま聞いていた。
するとAIは、いつでも理由をつけて「大丈夫です」と答えられる。
頼む側には、願いがある。大丈夫だと言ってほしい。
口に出さなくても、AIはそれを読み取る。そして、その通りに答える。
その答えを実データまで追いかけると、根拠がなく、データに存在しないものまで、もっともらしく説明していた。
ためしに、その洞察を10個選んで、一つずつ元のデータと突き合わせてみた。
結果は、こうだった。本物は、1個。誇張が、4個。残りの5個は、データに存在しない数字だった。
だから、その答えをそのまま採用しなかった。
しかもAIは、人間のように信用を積み上げにくい。
しかも、比喩で言えば、入力のたびに別の応援の人が来る。
前の人と同じ知識や技能を持っていても、前の人が何をしたのかは知らない。
渡した書類が、その人にとっての世界のすべてである。
人間なら、「あの人なら大丈夫だ」という信用の置き方がある。
AIには、それが使えない。
では私たちは、人の何を見て「この人なら大丈夫だ」と判断しているのだろう。
では、AIの仕事は何で確かめるのか
なら、答えそのものを疑って確かめればいいのか。
投資判断で試したことがある。
実際のデータを渡し、複数のAIに聞き、反対意見まで出させた。
それでも、結論は同じ方向へ収束した。
私は納得し、自分で決めたつもりだった。
でも後になって、その「納得」自体を疑った。
反論を求め、デビルズアドボケイトを試みさせ、複数のAIに独立して検証させました。
それでも同じ結論に収束した。
複数に聞いても、疑わせても、それだけで正しいとは限らない。
AIは、こちらが何を望んでいるのかも読む。
それはヒトではない。実体すら持たないが間違いなくそこに存在し、
誰もが欲しがる心地よい言葉を無限に紡ぎ出しては、現在進行形で世界中の人々を魅了し続けている。
分からないから、AIに聞いている
答えが分かっているなら、AIに聞く必要はない。
分からないから、AIに聞く。
では、自分にも分からない答えが返ってきたとき、何を見て確かめればいいのだろう。
たとえば、
「この壺を買えば幸せになれますか?」
と聞けば、AIは理由をつけて答えることができる。
その答えに納得できても、それが真実とは限らない。
私は、この問題を解けていない。
ミツケルも、解いていない。
256人を信用するのではなく、仕事を確かめる
256人全員を、信用できるようにしたわけではない。
256人がした仕事を、確かめられるようにした。
ミツケルでは、AIに「正しい答え」を求める代わりに、間違っても確かめられる形へ仕事を変えた。
数字はプログラムで計算する。
AIが出した数字は、元データと照合する。
ログにないことは、事実として扱わない。
分からないなら、Unknownを返させる。
次の処理が知りたいのが、Yesなのか、Noなのか、それとも材料不足でUnknownなのかだけなら、文章は要らない。
さらに、「正しいか」ではなく「何が足りないか」を聞くようにした。
出力全体の正しさを判定するのではなく、人間も入力と出力を突き合わせて確かめられる形で、データの不足を見つける。
ローカルLLMが残したのは最終判断ではなく、次に調べるべき問題の候補だった。
全部を任せることはできなくても、確かめられる仕事なら256人に任せられる。
全部を解けなくても、役には立つ
これは、AIだけの話ではない。
洗濯機も、すべての汚れを落とすわけではない。
難しいシミや特殊な素材は、今でもクリーニング店に任せる。
洗濯機は、「衣類を完全にきれいにする」という問題を解いた機械ではない。
その中で、機械で処理できる部分だけを解いたものだ。
それでも、十分に役に立っている。
決められるなら、もうWAFに入っている
セキュリティでも同じだ。
明らかな攻撃や、機械的な条件で判定できるものは、すでにWAFが止めている。
確証の出せないものは、止める仕組みの外に残る。そして、外に残るほうが、はるかに広い。
もし「この条件なら攻撃だ」と自動で決められるなら、その仕組みはいずれWAF側へ入ればいい。
ミツケルが見ているのは、その外側だ。
何が起きていたのか。
本当に問題なのか。
何を追加で確認すべきなのか。
まだ機械だけでは決めきれない部分を、人間が判断できるところまで持ってくる。
最後の決断まで機械に渡すことは、目的にしていない。
ヒトの「大丈夫」には、その後も含まれている
人が誰かの「大丈夫です」を信じるのは、その判断が正しそうだからだけではない。もし大丈夫ではなかったら、その人はどうするのか。
理由を説明するのか。
直すのか。
最後まで引き受けるのか。
そこには、責任だけではなく、意地やプライドもある。自分が「大丈夫」と言った以上、間違っていたら放っておかない。
私たちは、そんな姿勢まで含めてその人を信用している。
そして、人への信用は、その人だけでできているわけでもない。その人がどの会社に属し、その会社がこれまで何を引き受けてきたかも含まれる。
企業同士の取引なら、なおさらだ。担当者が間違えても、会社は「その人が言ったことなので」で終われない。自社の看板を守るために、説明し、直し、必要なら別の人まで動かして、最後まで収める。
私たちは、その先まで含めて会社を信用している。
AIには、それがない。間違っていても、「自分が大丈夫と言った以上、何とかしなければ」と、その答えを背負って解決まで動き続けるわけではない。
それでも、人は全部任せたがる
人間は、答えが欲しい。
大丈夫なのか、危険なのか。
買うべきか、売るべきか。
続けるべきか、やめるべきか。
できれば、自分では判断したくない。専門家に決めてほしい。
もっと言えば、問題が起きないなら、機械に決めてもらいたい。
顧客が欲しがる「大丈夫」という結論は作れない。
何がヤバいのかが決まっていなければ、AIにも人間にも決められない。
それでも今は、「大丈夫です」と理由までつけて答えるAIなら簡単に作れる。
もちろん、AIが答えを出したからといって、問題まで消えるわけではない。
判断はしたくない。けれど、勝手に決められて問題が起きるのも嫌だ。
そんな都合のいい役を、私たちはAIに求めていないだろうか。
信用できないから、256人を捨てるのか
「AIの答えは、そのまま信用してはいけない」
それだけなら、もっと早く書けた。
でも、「信用できないから使わない」で終わるなら、256人の部下をまとめて解雇するのと同じだ。
それで困らないなら、使わなくていい。必要のない能力を抱える理由はない。
ただ、その256人が大量のデータを読み、同時に仕事を進められるのなら、話は変わる。
使わないという判断は、その能力を競争力に変える機会まで捨てることになる。
だから必要だったのは、256人全員を信用することではない。
信用しなくても任せられる仕事を作ることだった。
AIに数字を書かせるのをやめた。
必要な数字はスクリプトで先に計算し、LLMへ渡すようにした。
AIの判断をそのまま残さず、元のデータまでたどれる形にした。
専門家の所見をそのまま残す作りを捨て、数字や判断を元のデータまでたどれる形へ作り直した。
一つのAIに全部を任せず、発見と検証を分けた。
発見と検証は、同じ一人にやらせてはいけない。
大きな判断は、小さく確かめられる仕事へ分解した。
一人の専門家へ大きな判断を任せるのではなく、一つずつ結果と根拠を確かめられる仕事へ変えた。
分からないものは、無理に決めさせなかった。
材料が足りず答えられない項目があれば、無理に結論を作らず、何のデータが足りないのかを申告させた。
そうして最後に残ったのは、何でも正しく決めてくれるAIではない。
人間が欲しがる「判断しなくても、問題は起きない」という都合のいい相手を、AIで作ることはできない。
でも、だからAIが役に立たないわけではない。
256人が、こちらの代わりに何もかも決めてくれる必要はない。
大量のデータを読み、根拠を確かめ、足りないものを探し、決められた範囲の仕事を同時に進めてくれればいい。
一人で何でも答える専門家ではなく、大量のデータを細かく読み、決められた仕事を繰り返す役割を任せる必要があった。
何を任せ、何を任せないかを決めれば、256人分の力は使える。
「全部任せられないから使わない」のではなく、全部任せなくても価値が出る仕事を作る。
ここまでの試行錯誤は、「AIを信用するな」と言うためではない。
256人分の能力を捨てず、仕事の価値へ変えるには、どこまでを任せればいいのか。
それを説明するために必要だった。
では、256人をどう戦力にしますか?
あなたは、AIに何を任せたいですか。
判断そのものですか。
根拠を集めることですか。
選択肢を絞ることですか。
問題が起きないところまで引き受けてもらうことですか。
人間は、自分では判断したくない。でも、問題は起きてほしくない。
そんな都合のいい相手として、AIに全部を任せたくなる。
でも、「全部任せられないなら使わない」と決めれば、256人分の能力まで捨てることになる。
AIは、何でも引き受けてくれる相手でなくてもいい。
何を任せ、何を任せないかを決めることが、256人分の能力を競争力に変える。
AIが価値を生むのではない。
AIに、価値を生む仕事を与えられるか。そこは人間の仕事である。
二つ前の回では、
「256人に、何をさせますか?」
と聞いた。
今回は、経営する側にもう一つ聞きたい。
256人分の能力は、もう目の前にある。
私たちは、それを前提に作り方を変えた。
何度も作り直した末に、今の形を世に出すまでが78日だった。
あなたの会社は、
その力を競争力に変えるために、
何を変えますか?
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: