
【AI開発のリアル #3】 「うちは大丈夫か」を、分解する
前回は、作ったものの話をした。今回は、そもそもなぜ作ったのか、その理由の側の話に戻る。
セキュリティに関する報道が増えている
ここ最近、セキュリティの相談が明らかに増えている。ニュースでは、どこかの会社の情報漏洩や、ランサムウェアで業務が止まった話が、毎週のように流れる。
攻撃する側は明らかにAIを使っている。人手では割に合わなかった攻撃を、自動で、大量に、安く仕掛けてくる。
AIによって攻撃するコストが下がり続けているのであろう、特別なスキルがなくても、AIを活用すれば誰でも攻撃者になれる。そんな裾野の広がりも全世界で起きていると容易に想像できる。
子供がサイバー攻撃をしたというニュースが流れることは、1度や2度程度の珍しい話ではなくなってきていることも、この仮説を補強する。
経営者の不安
経営者からすれば、たまったものではない。
いつ、何をされてもおかしくない気がする。でも専門家ではないから、具体的に何が起きているのかは分からない。
この、対象のない不安が、ぎゅっと縮まって一言になる。
ヤバい攻撃を受けてないか。うちは大丈夫なのか。
これが、いま多くの経営者が本当に知りたいことだ。始まりになった顧客の相談も、この一言だった。(もちろん意訳であり本当にこう語ったわけではない)
だが、この一言は、実は問いになっていない。
「ヤバい」も「大丈夫」も、何を指すのか決まっていない。不安のかたまりが、そのまま言葉になっただけだ。
だから、答える前に、まず割る。
不安のかたまりを分解する
「うちは大丈夫か」を時間の流れで割ると、少なくとも3つの別々の問いが出てくる。
ひとつ。そもそも攻撃は来ているのか。
ふたつ。来ているとして、それは防御を通り抜けたのか。
みっつ。通り抜けたとして、何かを持っていかれたのか。
この3つは、まったく別物だ。難しさも、答えられる度合いも違う。

ひとつ目は、簡単だ。来ている。どのサイトにも、毎日、大量に。世の中のセキュリティ製品は、たいていここに答える。
「今月、これだけの攻撃をブロックしました」。数百万件、と大きな数字が並ぶ。
でも、これは止めた攻撃の話である。止めたものは、もう問題ではない。
経営者が夜に不安になるのは、そこではない。止めきれずに通り抜けたものが、あるんじゃないか。ふたつ目だ。不安の本体は、ここから下にある。
そして、みっつ目。
通り抜けて、実際に何かを持っていかれたのか。これは、いちばん知りたいことであると同時に、いちばん答えにくい。
正直に言うと、我々が見ているCDNのログからは、ここは断定できない。
攻撃が防御をすり抜けてサーバーまで届いた、という事実までは分かる。だが、そこから本当に中身を抜かれたかどうかは、ログの外の話だ。
分解すると見えてくる
こうして割っていくと、面白いことに気づく。
不安を分解すると、「答えられること」と「答えられないこと」の境界が、はっきり見えてくる。
漠然と全部が怖かったものが、ここまでは分かる、ここから先は分からない、と線が引ける。
不安が減るわけではない。でも、対象のない不安が、輪郭のある問いに変わる。それだけでも、立っている場所がずいぶん違う。
では、この割った問いに、我々はどうやって答えようとしているのか。
それは裏を返すと、人間のセキュリティ専門家が、この問いに答えるために実際に何をやっているのか、という話でもある。
次回は、その仕事の側を分解する。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: