メインコンテンツへスキップ
見出し画像

【AI開発のリアル #42】 「大丈夫」は売っていないし、作れもしない

    「ミツケル」の中身は一度では説明しきれないので、店の記録から不審者を見つけて店長に伝える話に置き換えて、何回かに分けて書いている。

    ここで一度、立ち止まる。37回と同じようにまとめてみる。

    第28回から第41回までかけて、お店の比喩を使い、何を説明していたのか。

    顧客は「大丈夫」が欲しい。

    顧客が知りたいのは、ずっとうちは大丈夫かだった。

    だが、「ヤバいものを見つけてほしい」とだけ頼まれても、何がヤバいのかは決まっていない。

    ITになれば、魔法のように「大丈夫」が用意されるわけではない。WAFのように固定の基準で弾く仕組みだけでは限界があることは、すでに書いた。

    WAFで防げないなら、その隙間を埋める製品を買えばいい。だが、そんなものはない。

    買うことができないなら、自分たちで作れるのか。

    作れない。

    ヤバいものの正体が決まっていない以上、「ヤバいものはもう無い」と言い切ることなど不可能だからだ。

    結局のところ、「大丈夫」は、どこにも売っていないのである。

    「怪しい客」を先に決めようとして、うまくいかなかった

    「大丈夫」が作れないのなら、せめて「怪しい」の基準だけでも作ろうと足掻いた。

    最初は、祈るような気持ちでAIに頼った。ITの最先端であるAIなら、私たちが引けない線を引いてくれる。そう期待した。

    だが、AIに「見つけろ」と頼むと、無くても見つかる。

    実際には扉を一度押しただけの客に、「事務所を狙っていた」ともっともらしい理由が付けられた。祈るように頼んだ側が、そう報告させていた。悪意のない捏造である。

    AIが勝手に解釈してしまうならと、今度は固定の基準で決めようともした。

    だが、何回押したら怪しいのかは、線が引けない。厳しくすれば、ふつうの客まで巻き込む。

    完全に、行き止まりだった

    顧客が欲しがる「大丈夫」という結論は作れない。
    妥協して「怪しい」の基準を作ろうと足掻いても、AIの捏造やふつうの客の巻き添えを生み、それすら作れなかった。

    何がヤバいのかが決まっていなければ、AIにも人間にも決められない。完全に、行き止まりである。

    では、私たちはどうやって、第2回で見せたあのレポートを完成させたのか。



    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:


     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ