
【AI開発のリアル #32】 AIに、勝手に権威がついた
「ミツケル」のコンセプトは、最初から一つだった。
AIをセキュリティの専門家として働かせ、解析させ、そのレポートを売る。
四月に開発を始めたとき、いちばん大きな課題は、技術ではなかった。
これを、どうやって信じてもらうかである。
AIには、看板も経歴も資格も無い
売りに行けば、必ずここを突かれる。私はそう思っていた。
本当にAIにできるのか。人の専門家より、良いのか。
もっともな疑いである。当時、AIがセキュリティの専門家の代わりになるという話は、まだ当たり前ではなかった。
こちらは、AIに何ができるかを分かっている。毎日、動かしているからである。 AIに専門家として解析させたら、顧客に納品できるものが出てきた。 この製品は、そこから始まっている。
だが、客がそれを信じる理由は、どこにもない。
セキュリティの会社の専門家が「調べました」と言えば、客は信じる。その人には、会社の看板があり、経歴があり、資格がある。
AIには、それが一つも無い。
権威を、レポートで作ろうとした
そこで私たちは、レポートの見た目で示そうとした。
どんな手法で解析したか。どこまで調べたか。誰が担当したか。
章を立て、担当した専門家の名前を書き、使った手法を並べた。複雑な専門用語も並べた。プロがやる仕事を、そのまま紙の上に見せる。
無い権威を、こちらで用意しようとしていた。
このレポートが、あとで丸ごと崩れる。だが、なぜ中身よりも見た目が立派になっていたのかと言えば、信じてもらう必要があったからである。
国が、そのAIを借りに行った
開発を始める直前、フロンティアAIと呼ばれる最上位のAIモデルが公開されていた。
それが何を意味するのかは、私たちも少し経ってから分かってきた。そのモデルは、人の専門家では届かない速さと量で、システムの弱いところを見つけてしまう。
五月、首相がサイバー対策を指示した。国が枠組みを作り、十四の省庁・機関が動いた。 金融庁と日本銀行が連名で、経営トップの直接関与のもと、およそ一か月で取り組むよう要請を出した。
そして六月、政府自身が、そのモデルを使わせてほしいと申し入れて、使えるようになった。 大手の銀行も同じことをした。
国が、頭を下げて借りに行くほどのものだった。
作っているうちに、権威が勝手についた
私たちが作っているうちに、AIに権威を持たせる必要は、なくなっていた。
世の中のほうが先に、セキュリティのことはAIのほうが詳しいだろうと思うようになったからである。
こちらが何もしないうちに、AIに勝手に権威がついた。
開発を始めて、一か月ほどだった。
備えていたものが、要らなくなった
章立ても、担当者の名前も、専門用語の羅列も、私たちが、来ると思っていた突っ込みに備えて積んだものである。
四月には、いちばん大きな課題だった。六月には、課題ですらなくなっていた。
この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。
開発した製品のリリース情報
ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています: