
【AI開発のリアル #42】 「大丈夫」は売っていないし、作れもしない
「ミツケル」の中身は一度では説明しきれないので、店の記録から不審者を見つけて店長に伝える話に置き換えて、何回かに分けて書いている。
ここで一度、立ち止まる。37回と同じようにまとめてみる。
第28回から第41回までかけて、お店の比喩を使い、何を説明していたのか。
顧客は「大丈夫」が欲しい。
顧客が知りたいのは、ずっとうちは大丈夫かだった。
だが、「ヤバいものを見つけてほしい」とだけ頼まれても、何がヤバいのかは決まっていない。
ITになれば、魔法のように「大丈夫」が用意されるわけではない。WAFのように固定の基準で弾く仕組みだけでは限界があることは、すでに書いた。
WAFで防げないなら、その隙間を埋める製品を買えばいい。だが、そんなものはない。
買うことができないなら、自分たちで作れるのか。
作れない。
ヤバいものの正体が決まっていない以上、「ヤバいものはもう無い」と言い切ることなど不可能だからだ。
結局のところ、「大丈夫」は、どこにも売っていないのである。
「怪しい客」を先に決めようとして、うまくいかなかった
「大丈夫」が作れないのなら、せめて「怪しい」の基準だけでも作ろうと足掻いた。
最初は、祈るような気持ちでAIに頼った。ITの最先端であるAIなら、私たちが引けない線を引いてくれる。そう期待した。
だが、AIに「見つけろ」と頼むと、無くても見つかる。
実際には扉を一度押しただけの客に、「事務所を狙っていた」ともっともらしい理由が付けられた。祈るように頼んだ側が、そう報告させていた。悪意のない捏造である。
AIが勝手に解釈してしまうならと、今度は固定の基準で決めようともした。
だが、何回押したら怪しいのかは、線が引けない。厳しくすれば、ふつうの客まで巻き込む。
完全に、行き止まりだった
顧客が欲しがる「大丈夫」という結論は作れない。
妥協して「怪しい」の基準を作ろうと足掻いても、AIの捏造やふつうの客の巻き添えを生み、それすら作れなかった。
何がヤバいのかが決まっていなければ、AIにも人間にも決められない。完全に、行き止まりである。
では、私たちはどうやって、第2回で見せたあのレポートを完成させたのか。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: