
【AI開発のリアル #4】 セキュリティ会社を、まるごと箱に詰めた
前回、顧客の不安を3つに割った。
攻撃は来ているか。通り抜けたか。何か持っていかれたか。
このうち2つ目——通り抜けたものは何か——が、不安の本体だと書いた。では、その本体に答える仕組みを、どう作ったのか。今回はその話をする。
「ヤバい攻撃を受けてないか、ちゃんと調べてほしい」。
こういうことを本気で調べる仕事は、世の中にある。セキュリティの専門会社だ。そういう会社が、顧客の「うちは大丈夫か」にどう応えて、どうやって納得してもらうのか。その仕事のかたちを、そっくり組み立てていった。
人間の組織は何をしているのか?
こういう調査は、一人の天才が魔法で解くものではない。役割の違う人間が、手分けして動く。
まず、大量のログを預かって、扱える形に整える。次に、全体を見渡して「これは怪しい」を洗い出す。洗い出された怪しいものを、一件ずつ深く調べる。攻撃者は何者か、どんな手口か、何を狙ったか、手分けして掘る。
それだけでは終わらない。調べた結果に、わざと反論する担当が必要だ。「本当にそう言えるのか、見落としはないか」と噛みつく。
さらに、報告に書かれた数字が正しいか、一つずつ元データと突き合わせる。そうやって粗を出しきってから、最後に全員の調査をまとめて、一本の報告書にして、責任を持って提出する。
調べる人、疑う人、確かめる人、まとめる人。この役割がそろって、初めて信頼できる報告書になる。
ミツケルの中身は、これである。
箱の中身はどうなっているのか?
この連載の最初のほうで見せた「8人の専門家AI」は、この組織を、そのままAIに割り当てたものだ。調べる5人、反論する監査役、数字を裏取りする係、まとめる責任者。人間の会社ならこう分担するという組織の仕事を、AIにやらせている。
その手前の「ログを整えて、怪しいものを洗い出す」工程は、AIではなく計算プログラムがやっている。計算で片がつくところは計算に、人間の判断が要るところをAIに。そう割った。あの絞り込みの図で見せたところだ。
つまりミツケルは、一つの賢いAIにセキュリティを解かせているのではない。人間の会社の組織を、そっくりAIで組み直して、一台の機械に詰めたものだ。数億件のログの裏で1万3千回もの推論が回っていたのは、この「一部署ぶんの仕事」が、箱の中で動いているからだ。

組織丸ごとを自動化する
この作り方は、セキュリティに限った話ではない。人間が何人もで手分けしてやっている仕事なら、その組織のかたちのまま、機械の中に移せる。
計算で済むところはプログラムに、判断が要るところをAIに割り振って、部署をまるごと組み直す。ミツケルは、それをセキュリティでやってみた一例にすぎない。
ただ、組織のかたちを箱に入れても、それで顧客が納得するわけではない。そもそも、こういう会社は何をもって「うちは大丈夫か」に答えているのか。
何を見せられたら、依頼した側は「調べてもらってよかった」と思えるのか。次回は、その部分にフォーカスする。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: