
【AI開発のリアル #26】 ヤバいものを見つけてほしい
顧客から来る依頼は、「うちは大丈夫か」である。
最初にやったのは、その問いを、そのままAIへ渡すことだった。
人が読める量ではなかった
アクセスログの一行は、誰かが一度アクセスした記録である。読めば意味は分かる。
だが、その一行が普通の利用者なのか、攻撃の一歩目なのかは分からない。同じページを何度も見に来る相手は、熱心な顧客かもしれないし、中身を集めている相手かもしれない。
そして、ある顧客の一か月分は約23億4千万行あった。
一つずつ確かめていく、という方法が成立しない。
これはAIの仕事だと思った
人は疲れる。一人が読める量にも限りがある。何人雇っても追いつかない。
AIは疲れない。大量に読める。何人分でも並べられる。
これはAIの仕事だ。 そう思った。
いまでも、この考え自体は間違っていなかったと思う。読ませること自体は、できた。
顧客に聞かれたことを、そのままAIに聞いた
23億行をそのまま渡すことはできない。だから機械で集計し、その結果をAIに読ませた。そして頼んだ。
この中から、やばいものを見つけてほしい。
顧客に聞かれたことを、言い方を変えずに、そのまま聞いていた。
このまま使える、と言われた
その日の夜には、最初のレポートができあがった。
専門家が書いたように読める。体裁も整っている。
サンプルとして見せた相手からは、このまま使えると言われた。他社のレポートより質が良い、とも言われた。
自分でも、うまくいったと思っていた。
祈りが叶ったように見える。この瞬間が、いちばん危ない。
よく読むと、中身がなかった
だが読み返すうちに、引っかかりはじめた。
書いてあったのは、大きな数字と、その数字につけた名前だった。
異常なアクセス元が9万件以上ある。
だが、どれが何をしている相手なのかは書いていない同じ特徴を持つアクセスが500万件を超える。
だが、何を狙っているのかは書いていない危険とされているアクセス元が、いくつも該当している。
だが、その中で最も危ないものが何をしたのかは書いていない
数字は大きい。専門的な言葉も並んでいる。
だから、専門家の分析に見えた。
だが、そこで止まっていた。何が起きているのか。明日、何をすればいいのか。顧客が知りたいのは、その先だった。
顧客が何を求めているかを、分かっていなかった
顧客は「うちは大丈夫か」と聞いてくる。だが顧客も、何を見つけてほしいのかを具体的には言えない。言えるなら、自分で調べている。
何が分かれば、その問いに答えたことになるのか。何をもって「大丈夫」と納得してもらうのか。
それを決めるのが、こちらの仕事だった。
私はそれをやらないまま、問いをそのままAIへ渡した。顧客が私に聞いてくるのと同じことを、私はAIに聞いていた。私は、間に立っていなかった。
読めない量を前にすれば、誰でもそう頼みたくなる。
その気持ちは、いまも分かる。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: