メインコンテンツへスキップ
見出し画像

【AI開発のリアル #33】 止めても、通しても、大丈夫とは言えない

    この製品を紹介すると、必ず同じことを聞かれる。

    それは、既存のどれに近いのか。

    WAFの仲間か。監視サービスの仲間か。診断ツールか。相手は、自分の知っている仕組みのどれかに当てはめようとする。

    当然である。そうでないと、話が始まらない。

    だが、この製品は、そのどれでもない。

    どれも、通すか止めるかの二つしか、答えを持たないからである。

    パートナーが欲しかったのは、止める道具だった

    最初に受けた要望は、こうだった。

    「レポートを読めば、WAFの設定まで書けるものが欲しい」

    言い換えれば、怪しいアクセスを止める道具が欲しい、ということである。

    もっともな話だった。こちらも最初は、それに近いものを作った。

    渡された側は、中身を読まずに入れる

    作りながら、二つ引っかかった。

    一つは、AIに、その環境の設定を一字も間違えずに書かせられるのかである。設定は製品ごとに書き方が違う。一行違えば意味が変わる。かなり怪しいと思った。

    もう一つは、こちらの出来と関係がない。入れれば動くものを渡されたら、人はそれを入れる。 どのアクセスを止める設定なのかを読まないまま入れて、あとで自社のサイトの何かが動かなくなったとき、どの設定がそれを止めているのかを、誰も言えない。

    止められるのは、バールを持った相手だけである

    そして、それより手前に大きな問題があった。

    アクセスを一つ止めるのに、確証が要る。

    間違って止めれば、ふつうの客がサイトに入れなくなる。買い物ができない。申し込みができない。その会社の売上が止まる。

    前に、店の話でこう書いた。

    バールを取り出して、スタッフ専用の扉をこじ開けようとしている人。 これは一回で分かる。誰が見ても分かる。その場で止まる。

    店が自動で止められるのは、ここまでである。

    扉を一回押しただけの人まで止めれば、トイレを探していた客を締め出すことになる。毎日ちがう人が来て少しずつ調べていく相手を止めようとすれば、店は範囲を広げすぎて、まともな客を巻き込む。

    止める仕組みは、安全のために、止める相手を極端に絞るしかない。

    つまり、確証の出せないものは、止める仕組みの外に残る。 そして、外に残るほうが、はるかに広い。

    止める道具の答えは、二つしかない

    バールを持った人。扉を一回押した人。ただの客。

    店に来る人は、この三つに分かれているわけではない。あいだに、いくらでもいる。

    そして、店が止められるのは、いちばん端の一人だけである。

    止めるか、通すか。仕組みが出せる答えは、その二つしかない。

    実際の製品でも、同じである。通した数なら、どの製品でも出せる。

    だが、通したものは、全部まとめて「通った」になる。 ただの客も、扉を押した人も、同じ一件として数えられる。

    そのうちのどれが危なかったのかは、出てこない。

    出てくるはずがない。

    危ないと分かっているのなら、その製品はその場で止めているからである。

    その二つに、「大丈夫」は無い

    間違って止めれば、その会社は客を失う。

    止めずに通して、通したものの中に本物の攻撃が混ざっていれば、事件になる。

    どちらの答えも、その会社にとって「大丈夫」ではない。

    顧客が聞いているのは、ずっと同じ問いである。 うちは大丈夫か。

    止める道具は、その問いに答えを持っていない。


    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:



     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ