メインコンテンツへスキップ
見出し画像

【AI開発のリアル #26】 ヤバいものを見つけてほしい

    前回、私もAIに祈っていたと書いた。

    顧客から来る依頼は、「うちは大丈夫か」である。

    最初にやったのは、その問いを、そのままAIへ渡すことだった。

    人が読める量ではなかった

    アクセスログの一行は、誰かが一度アクセスした記録である。読めば意味は分かる。

    だが、その一行が普通の利用者なのか、攻撃の一歩目なのかは分からない。同じページを何度も見に来る相手は、熱心な顧客かもしれないし、中身を集めている相手かもしれない。

    そして、ある顧客の一か月分は約23億4千万行あった。

    一つずつ確かめていく、という方法が成立しない。

    これはAIの仕事だと思った

    人は疲れる。一人が読める量にも限りがある。何人雇っても追いつかない。

    AIは疲れない。大量に読める。何人分でも並べられる。

    これはAIの仕事だ。 そう思った。

    いまでも、この考え自体は間違っていなかったと思う。読ませること自体は、できた。

    顧客に聞かれたことを、そのままAIに聞いた

    23億行をそのまま渡すことはできない。だから機械で集計し、その結果をAIに読ませた。そして頼んだ。

    この中から、やばいものを見つけてほしい。

    顧客に聞かれたことを、言い方を変えずに、そのまま聞いていた。

    このまま使える、と言われた

    その日の夜には、最初のレポートができあがった。

    専門家が書いたように読める。体裁も整っている。

    サンプルとして見せた相手からは、このまま使えると言われた。他社のレポートより質が良い、とも言われた。

    自分でも、うまくいったと思っていた。

    祈りが叶ったように見える。この瞬間が、いちばん危ない。

    よく読むと、中身がなかった

    だが読み返すうちに、引っかかりはじめた。

    書いてあったのは、大きな数字と、その数字につけた名前だった。

    • 異常なアクセス元が9万件以上ある。
      だが、どれが何をしている相手なのかは書いていない

    • 同じ特徴を持つアクセスが500万件を超える。
      だが、何を狙っているのかは書いていない

    • 危険とされているアクセス元が、いくつも該当している。
      だが、その中で最も危ないものが何をしたのかは書いていない

    数字は大きい。専門的な言葉も並んでいる。
    だから、専門家の分析に見えた。

    だが、そこで止まっていた。何が起きているのか。明日、何をすればいいのか。顧客が知りたいのは、その先だった。

    このレポートは、結局そのまま捨てることになる。

    顧客が何を求めているかを、分かっていなかった

    顧客は「うちは大丈夫か」と聞いてくる。だが顧客も、何を見つけてほしいのかを具体的には言えない。言えるなら、自分で調べている。

    何が分かれば、その問いに答えたことになるのか。何をもって「大丈夫」と納得してもらうのか。

    それを決めるのが、こちらの仕事だった。

    私はそれをやらないまま、問いをそのままAIへ渡した。顧客が私に聞いてくるのと同じことを、私はAIに聞いていた。私は、間に立っていなかった。

    読めない量を前にすれば、誰でもそう頼みたくなる。

    その気持ちは、いまも分かる。


    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:

     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ