メインコンテンツへスキップ
見出し画像

【AI開発のリアル #31】 見つけろと言ったら、見つけてきた

    AIに「何かヤバいものを見つけて」と頼むと、見つかる。

    無くても、見つかる。

    実際に、そう頼んだ。

    ミツケルが答えようとしているのは、顧客の「うちは大丈夫か」である。無いものを見つけて渡したら、答えたことにならない。

    では、なぜ無いものまで出てくるのか。今回も店に置き換えて説明しよう。

    「何かヤバいものを見つけてくれ」

    「うちの店、大丈夫か見といてくれ。事件が起きてからじゃ遅いからな。」

    この頼みがそのままでは受けられないことは、前に書いた。何をもって不審とするのかが、決まっていないからである。

    それでも、決めないまま調査員に渡したとする。

    「何かヤバいものを見つけてくれ。」

    「奥の事務所を狙ったものと見られます」

    上がってきた報告書は、立派だった。

    「この人物は、開く扉を探して、スタッフ専用の扉を試していました。奥の事務所を狙ったものと見られます。出入りを断ることを勧めます。」

    読めば、ちゃんと調べた仕事に見えた。

    押したのは一回だけ

    店長に報告する前に、元の記録を調べ直した。

    その人物は、確かに映っていた。 スタッフ専用の扉を押しているのも、そのとおりだった。

    一回だけである。 開かないので、そのまま帰っている。

    ほかの扉は、触ってもいない。探していたのかどうかは、映っていない。事務所を狙っていたかどうかも、映るはずがない。

    この人については、報告できないと前に書いた。

    根拠は三つとも崩れた

    挙がっていた根拠を、調べてみた。

    • 「以前にも来ています」
      ── 別の日にも、同じことをした人はいる。だが、この人ではない。

    • 「人の少ない時間を選んでいます」
      ── 空いている時間に来る客なら、大勢いる。選んだのかどうかは、判断できない。

    • 「まっすぐ、スタッフ専用の扉へ向かっています」
      ── その扉は、トイレへ行く通路の途中にある。

    三つとも、根拠にならなかった。

    結論を先に決めて、理由を後から付けた

    調査員が、手を抜いたわけではない。

    私が、見つけろと言ったからである。

    見つけろと言われた側が、やることは決まっている。目についたものを、怪しいと決める。そして、どう怪しいのかを書く。

    それだけである。

    映っているものだけでは、足りない。だから、足りない分を埋めた。

    嘘をつく意図などない。頼まれたとおりにしただけである。


    ここまで店の話として書いたが、調査員にあたるのは、AIである。

    無ければ、作ってくる

    冒頭に戻る。見つけろと言えば、見つけてくる。無くても、見つけてくる。

    無ければ、素直に理由をつけてくる。 それが、捏造になる。

    無いものを渡したら、「うちは大丈夫か」に答えたことにならない。


    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:






     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ