メインコンテンツへスキップ
見出し画像

【AI開発のリアル #44】 祈れば叶う。だが、真実ではない

    顧客の問いは、「うちは大丈夫か」である。

    これをそのままAIに聞くと、どうなるか。

    分からないから、信じたい

    頼む側には、願いがある。大丈夫だと言ってほしい。

    口に出さなくても、AIはそれを読み取る。そして、その通りに答える。

    大丈夫です、と。

    返ってくるものは、長い。専門の言葉が並び、根拠らしきものが付いている。頼んだ人には、読み解けない。

    読み解けない。だが、AIには権威がついている。

    分からないまま、大丈夫と書いてあることだけが残る。

    そして、信じたくなる。

    叶う。

    同じ答えが、いつでも返ってくる

    だが、それは何も起きていない月にも、事件が起きた月であっても、同じように返ってくる。

    「大丈夫と思いたい」という気持ちに寄り添って願ったものが返る。

    問題があってもなくても同じものが出るなら、それは答えではない。

    そして、並んでいた根拠のほうも、確かめると消えることがある。

    止めても、通しても、大丈夫とは言えない。それでも、聞けば大丈夫だと返ってくる。

    売っていないし、作れない

    根拠のない「大丈夫」なら、作れる。頼めば、明日にでも出てくる。

    「大丈夫」は売っていないし、作れもしないと書いた。作れないのは、根拠のあるほうである。

    祈る側は、その違いを知らない。聞けば返ってくるのだから、大丈夫は売っていて、作れるものに見える。

    同じことを、この連載の外でも一度、二度書いた。それでも書き切れていない。

    祈れば、叶う。

    だが、真実ではない。


    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:


     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ