メインコンテンツへスキップ
見出し画像

【AI開発のリアル #5】 何をもって「大丈夫」と納得するのか

    前回、人間のセキュリティ会社の仕事を、組織のかたちごと箱に詰めた話をした。調べる人、疑う人、確かめる人、まとめる人。役割をそろえて、AIに割り当てた。

    「大丈夫」とは何か?

    だが、そこで引っかかったことがある。組織のかたちをなぞっても、それだけで顧客が「大丈夫だ」と納得するわけではない。では、何を見せられたら、人は納得するのか。

    考えてみると、「大丈夫か」への答えとして、いちばんダメなのは「大丈夫です、100%守っています」だ。

    それは嘘だからだ。完璧な防御など存在しないと、依頼した側もうすうす知っている。だから、そう言い切られるほど、逆に信用できなくなる。


    では何が要るか。三つあると思う。

    一つ。見えなかったものが、見えること。

    漠然と「何か危ないかも」だったものが、「このパスに、これだけ通り抜けがある」という具体的な事実に変わる。第3回で書いた、輪郭のない不安が、輪郭のある問いになる、あれだ。

    二つ。全部見た、という証拠。

    一部をサンプルで見たのではなく、来たものを全件見切った。だから「見ていないところに何かある」という不安が消える。人間が何万件も一件ずつ見るのは無理だが、AIの物量なら、全部読んだと言える。

    三つ。わからないことを、わからないと言うこと。

    第3回のみっつ目——通り抜けて何か持っていかれたか——は、我々のログからは断定できないと書いた。ここを「たぶん大丈夫」とも「危険です」とも言わない。事実はここまで、ここから先はわからない、と正直に線を引く。この線があるから、言っていることの残りが信じられる。


    見えること。全部見たこと。わからないことは言わないこと。この三つがそろって、はじめて「調べてもらってよかった」になる。

    画像
    この三つがそろって、納得になる。

    そして、これはAIに仕事をさせるうえでも、そのまま効く。

    それらしい答えを返すのは簡単だ。難しいのは、全部見たと言い切れること、そしてわからないと正直に言えることだ。

    次回から、それをどう仕組みにしたのかの話に入る。


    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:


     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ