
【AI開発のリアル #33】 止めても、通しても、大丈夫とは言えない
この製品を紹介すると、必ず同じことを聞かれる。
それは、既存のどれに近いのか。
WAFの仲間か。監視サービスの仲間か。診断ツールか。相手は、自分の知っている仕組みのどれかに当てはめようとする。
当然である。そうでないと、話が始まらない。
だが、この製品は、そのどれでもない。
どれも、通すか止めるかの二つしか、答えを持たないからである。
パートナーが欲しかったのは、止める道具だった
最初に受けた要望は、こうだった。
「レポートを読めば、WAFの設定まで書けるものが欲しい」
言い換えれば、怪しいアクセスを止める道具が欲しい、ということである。
もっともな話だった。こちらも最初は、それに近いものを作った。
渡された側は、中身を読まずに入れる
作りながら、二つ引っかかった。
一つは、AIに、その環境の設定を一字も間違えずに書かせられるのかである。設定は製品ごとに書き方が違う。一行違えば意味が変わる。かなり怪しいと思った。
もう一つは、こちらの出来と関係がない。入れれば動くものを渡されたら、人はそれを入れる。 どのアクセスを止める設定なのかを読まないまま入れて、あとで自社のサイトの何かが動かなくなったとき、どの設定がそれを止めているのかを、誰も言えない。
止められるのは、バールを持った相手だけである
そして、それより手前に大きな問題があった。
アクセスを一つ止めるのに、確証が要る。
間違って止めれば、ふつうの客がサイトに入れなくなる。買い物ができない。申し込みができない。その会社の売上が止まる。
バールを取り出して、スタッフ専用の扉をこじ開けようとしている人。 これは一回で分かる。誰が見ても分かる。その場で止まる。
店が自動で止められるのは、ここまでである。
扉を一回押しただけの人まで止めれば、トイレを探していた客を締め出すことになる。毎日ちがう人が来て少しずつ調べていく相手を止めようとすれば、店は範囲を広げすぎて、まともな客を巻き込む。
止める仕組みは、安全のために、止める相手を極端に絞るしかない。
つまり、確証の出せないものは、止める仕組みの外に残る。 そして、外に残るほうが、はるかに広い。
止める道具の答えは、二つしかない
バールを持った人。扉を一回押した人。ただの客。
店に来る人は、この三つに分かれているわけではない。あいだに、いくらでもいる。
そして、店が止められるのは、いちばん端の一人だけである。
止めるか、通すか。仕組みが出せる答えは、その二つしかない。
実際の製品でも、同じである。通した数なら、どの製品でも出せる。
だが、通したものは、全部まとめて「通った」になる。 ただの客も、扉を押した人も、同じ一件として数えられる。
そのうちのどれが危なかったのかは、出てこない。
出てくるはずがない。
危ないと分かっているのなら、その製品はその場で止めているからである。
その二つに、「大丈夫」は無い
間違って止めれば、その会社は客を失う。
止めずに通して、通したものの中に本物の攻撃が混ざっていれば、事件になる。
どちらの答えも、その会社にとって「大丈夫」ではない。
顧客が聞いているのは、ずっと同じ問いである。 うちは大丈夫か。
止める道具は、その問いに答えを持っていない。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: