AIの安全性を評価するガイド

企業や役所の現場で各種リスクを言い募ってる人たちの多くは、AI導入が面倒くさい、現状を変えたくない人たちが多く、建設的な議論にならないことが多い。なので、その人たちを頑張って説得することはしない、AI導入できるところから生産性を高めていく、生産性の低さに危機感を持ってこちらの声を聴くようになってから、というのも戦略的な選択肢とは正直考えてる。

ただ、リサーチ業務の中で、そうしたお題を考える必要が出てきたこともあり、利用者側の観点でのリスクを、言い訳でリスクを言い募らせないように、客観的に評価する必要があるよね、ということで記事にまとめることにした。それ以外の観点（技術とか運用とか）は以下のページにある。

もちろん、この観点のための基準やガイドラインは以前から検討されてはいる訳で、

最近ようやく、AIの安全性を評価するツールをOSSとして、評価観点ガイドと併せて、無料公開された。「有害情報の出力制御」など10の観点で採点されるらしい。

そして、生成AIを含むシステムの開発を外部委託する際のガイドラインは、日本ディープラーニング協会から無料公開された。

このくらいあれば、AI導入反対派の感情論を、少なくとも机上の論理的な議論には引っ張ってこれるだろう。あとは海外の動向でも添えれば良いか。

それでも、そこまで準備していても、たたかれるものはたたかれる。テレビやインターネット、スマホ、昔はマンガやラジオまで、科学的根拠なく未知の存在への漠とした感情論で叩かれてるのが、今はAIになっているだけ。

何をしたって、徹底的にアラ探しして批判することは可能なのでww
それならば企業は、AI導入に関する機会に伴うリスクを、どこまで受容し、何を許容しないか、経営戦略／RAF（risk appetite framework）を明確にして、毅然と進めるべきだと思うのだけどなぁ。少なくとも総務・リスク管理部門に丸投げにしていたら、彼らの責任で対処できることに留まるのは当然で、AI導入が遅いのを彼らのせいにするのは半分間違いなんよね。もちろん「半分」というのは、彼ら自身にも経営陣に提言する義務があるから。