
【AI開発のリアル #44】 祈れば叶う。だが、真実ではない
顧客の問いは、「うちは大丈夫か」である。
これをそのままAIに聞くと、どうなるか。
分からないから、信じたい
頼む側には、願いがある。大丈夫だと言ってほしい。
口に出さなくても、AIはそれを読み取る。そして、その通りに答える。
大丈夫です、と。
返ってくるものは、長い。専門の言葉が並び、根拠らしきものが付いている。頼んだ人には、読み解けない。
読み解けない。だが、AIには権威がついている。
分からないまま、大丈夫と書いてあることだけが残る。
そして、信じたくなる。
叶う。
同じ答えが、いつでも返ってくる
だが、それは何も起きていない月にも、事件が起きた月であっても、同じように返ってくる。
「大丈夫と思いたい」という気持ちに寄り添って願ったものが返る。
問題があってもなくても同じものが出るなら、それは答えではない。
そして、並んでいた根拠のほうも、確かめると消えることがある。
止めても、通しても、大丈夫とは言えない。それでも、聞けば大丈夫だと返ってくる。
売っていないし、作れない
根拠のない「大丈夫」なら、作れる。頼めば、明日にでも出てくる。
「大丈夫」は売っていないし、作れもしないと書いた。作れないのは、根拠のあるほうである。
祈る側は、その違いを知らない。聞けば返ってくるのだから、大丈夫は売っていて、作れるものに見える。
同じことを、この連載の外でも一度、二度書いた。それでも書き切れていない。
祈れば、叶う。
だが、真実ではない。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: