
【AI開発のリアル #5】 何をもって「大丈夫」と納得するのか
前回、人間のセキュリティ会社の仕事を、組織のかたちごと箱に詰めた話をした。調べる人、疑う人、確かめる人、まとめる人。役割をそろえて、AIに割り当てた。
「大丈夫」とは何か?
だが、そこで引っかかったことがある。組織のかたちをなぞっても、それだけで顧客が「大丈夫だ」と納得するわけではない。では、何を見せられたら、人は納得するのか。
考えてみると、「大丈夫か」への答えとして、いちばんダメなのは「大丈夫です、100%守っています」だ。
それは嘘だからだ。完璧な防御など存在しないと、依頼した側もうすうす知っている。だから、そう言い切られるほど、逆に信用できなくなる。
では何が要るか。三つあると思う。
一つ。見えなかったものが、見えること。
漠然と「何か危ないかも」だったものが、「このパスに、これだけ通り抜けがある」という具体的な事実に変わる。第3回で書いた、輪郭のない不安が、輪郭のある問いになる、あれだ。
二つ。全部見た、という証拠。
一部をサンプルで見たのではなく、来たものを全件見切った。だから「見ていないところに何かある」という不安が消える。人間が何万件も一件ずつ見るのは無理だが、AIの物量なら、全部読んだと言える。
三つ。わからないことを、わからないと言うこと。
第3回のみっつ目——通り抜けて何か持っていかれたか——は、我々のログからは断定できないと書いた。ここを「たぶん大丈夫」とも「危険です」とも言わない。事実はここまで、ここから先はわからない、と正直に線を引く。この線があるから、言っていることの残りが信じられる。
見えること。全部見たこと。わからないことは言わないこと。この三つがそろって、はじめて「調べてもらってよかった」になる。

そして、これはAIに仕事をさせるうえでも、そのまま効く。
それらしい答えを返すのは簡単だ。難しいのは、全部見たと言い切れること、そしてわからないと正直に言えることだ。
次回から、それをどう仕組みにしたのかの話に入る。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: