メインコンテンツへスキップ
見出し画像

【AI開発のリアル #4】 セキュリティ会社を、まるごと箱に詰めた

    前回、顧客の不安を3つに割った。

    攻撃は来ているか。通り抜けたか。何か持っていかれたか。

    このうち2つ目——通り抜けたものは何か——が、不安の本体だと書いた。では、その本体に答える仕組みを、どう作ったのか。今回はその話をする。

    「ヤバい攻撃を受けてないか、ちゃんと調べてほしい」。

    こういうことを本気で調べる仕事は、世の中にある。セキュリティの専門会社だ。そういう会社が、顧客の「うちは大丈夫か」にどう応えて、どうやって納得してもらうのか。その仕事のかたちを、そっくり組み立てていった。

    人間の組織は何をしているのか?

    こういう調査は、一人の天才が魔法で解くものではない。役割の違う人間が、手分けして動く。

    まず、大量のログを預かって、扱える形に整える。次に、全体を見渡して「これは怪しい」を洗い出す。洗い出された怪しいものを、一件ずつ深く調べる。攻撃者は何者か、どんな手口か、何を狙ったか、手分けして掘る。

    それだけでは終わらない。調べた結果に、わざと反論する担当が必要だ。「本当にそう言えるのか、見落としはないか」と噛みつく。

    さらに、報告に書かれた数字が正しいか、一つずつ元データと突き合わせる。そうやって粗を出しきってから、最後に全員の調査をまとめて、一本の報告書にして、責任を持って提出する。

    調べる人、疑う人、確かめる人、まとめる人。この役割がそろって、初めて信頼できる報告書になる。

    ミツケルの中身は、これである。

    箱の中身はどうなっているのか?

    この連載の最初のほうで見せた「8人の専門家AI」は、この組織を、そのままAIに割り当てたものだ。調べる5人、反論する監査役、数字を裏取りする係、まとめる責任者。人間の会社ならこう分担するという組織の仕事を、AIにやらせている。

    その手前の「ログを整えて、怪しいものを洗い出す」工程は、AIではなく計算プログラムがやっている。計算で片がつくところは計算に、人間の判断が要るところをAIに。そう割った。あの絞り込みの図で見せたところだ。

    つまりミツケルは、一つの賢いAIにセキュリティを解かせているのではない。人間の会社の組織を、そっくりAIで組み直して、一台の機械に詰めたものだ。数億件のログの裏で1万3千回もの推論が回っていたのは、この「一部署ぶんの仕事」が、箱の中で動いているからだ。

    画像
    人間の組織を真似て、仕組みを丸ごと箱に詰めた

    組織丸ごとを自動化する

    この作り方は、セキュリティに限った話ではない。人間が何人もで手分けしてやっている仕事なら、その組織のかたちのまま、機械の中に移せる。

    計算で済むところはプログラムに、判断が要るところをAIに割り振って、部署をまるごと組み直す。ミツケルは、それをセキュリティでやってみた一例にすぎない。

    ただ、組織のかたちを箱に入れても、それで顧客が納得するわけではない。そもそも、こういう会社は何をもって「うちは大丈夫か」に答えているのか。

    何を見せられたら、依頼した側は「調べてもらってよかった」と思えるのか。次回は、その部分にフォーカスする。


    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:


     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ