メインコンテンツへスキップ
見出し画像

【AI開発のリアル #32】 AIに、勝手に権威がついた

    「ミツケル」のコンセプトは、最初から一つだった。

    AIをセキュリティの専門家として働かせ、解析させ、そのレポートを売る。

    四月に開発を始めたとき、いちばん大きな課題は、技術ではなかった。

    これを、どうやって信じてもらうかである。

    AIには、看板も経歴も資格も無い

    売りに行けば、必ずここを突かれる。私はそう思っていた。

    本当にAIにできるのか。人の専門家より、良いのか。

    もっともな疑いである。当時、AIがセキュリティの専門家の代わりになるという話は、まだ当たり前ではなかった。

    こちらは、AIに何ができるかを分かっている。毎日、動かしているからである。 AIに専門家として解析させたら、顧客に納品できるものが出てきた。 この製品は、そこから始まっている。

    だが、客がそれを信じる理由は、どこにもない。

    セキュリティの会社の専門家が「調べました」と言えば、客は信じる。その人には、会社の看板があり、経歴があり、資格がある。

    AIには、それが一つも無い。

    権威を、レポートで作ろうとした

    そこで私たちは、レポートの見た目で示そうとした。

    どんな手法で解析したか。どこまで調べたか。誰が担当したか。

    章を立て、担当した専門家の名前を書き、使った手法を並べた。複雑な専門用語も並べた。プロがやる仕事を、そのまま紙の上に見せる。

    無い権威を、こちらで用意しようとしていた。

    このレポートが、あとで丸ごと崩れる。だが、なぜ中身よりも見た目が立派になっていたのかと言えば、信じてもらう必要があったからである。

    国が、そのAIを借りに行った

    開発を始める直前、フロンティアAIと呼ばれる最上位のAIモデルが公開されていた。

    それが何を意味するのかは、私たちも少し経ってから分かってきた。そのモデルは、人の専門家では届かない速さと量で、システムの弱いところを見つけてしまう。

    五月、首相がサイバー対策を指示した。国が枠組みを作り、十四の省庁・機関が動いた。 金融庁と日本銀行が連名で、経営トップの直接関与のもと、およそ一か月で取り組むよう要請を出した。

    そして六月、政府自身が、そのモデルを使わせてほしいと申し入れて、使えるようになった。 大手の銀行も同じことをした。

    国が、頭を下げて借りに行くほどのものだった。

    作っているうちに、権威が勝手についた

    私たちが作っているうちに、AIに権威を持たせる必要は、なくなっていた。

    世の中のほうが先に、セキュリティのことはAIのほうが詳しいだろうと思うようになったからである。

    こちらが何もしないうちに、AIに勝手に権威がついた。

    開発を始めて、一か月ほどだった。

    備えていたものが、要らなくなった

    章立ても、担当者の名前も、専門用語の羅列も、私たちが、来ると思っていた突っ込みに備えて積んだものである。

    四月には、いちばん大きな課題だった。六月には、課題ですらなくなっていた。


    この連載は、Webサイト攻撃状況レポートサービス「ミツケル」ができるまでの記録です。

    開発した製品のリリース情報

    ミツケルが実際に何を見つけているかは、同僚が技術者向けの連載に書いています:




     
     

    toshi

     
     
    教育DXエンジニア / 生成AI活用研究家 コンピュータ理工学修士/元大手ICTエンジニア。誰もが技術を使いこなし、その恩恵を受けられる社会を目指し、公立高の教育現場と二児の子育てに情熱を注ぐ。専業主夫見習い

    あなたへのおすすめ