AI活用のリスクと脅威、そしてガバナンス

これまでAI活用に伴うリスクの話は、何かのついでだけだった。なぜなら大半の企業に最優先なのはまずAI活用してみる、そして導入を考えることだと思っているから。現状はリスクを何もしない言い訳にする企業が多い中、それに与するような記事を書くのは気に入らなかったから。でも外部記憶装置としてのnote、自分の仕事に必要な情報の整理を優先することにしますww

そう思ったキッカケの1つは「潜在学習」の記事ではあるのだけど、

そもそもデータ収集されるリスクは以前から。もちろんツールの外への漏洩はしないのは法人契約の文言に入っているとしても、学習されるよね。

それに加えて、端末からサイバーから諸々あるもので、

政策レイヤで議論される「AIセーフティ評価」は別のページに集約した。

技術的には秘密計算が一番かな。Chain of Thoughtでの監視ってのも論文としては面白そう。

品質マネジメントガイドラインが出てるのも良い。以前はQA4AIの方をよく参照してたのだけど、今後どっちが優位かは見極めが必要かな。

法務・契約、著作権などのの一般事業会社のレイヤで考えるリスクとしては、以下の記事が良く整理されている。

一般事業会社としては、経営やリスク管理部門がモタモタしてると、シャドーITと同様、シャドーAIの問題も出てくるな。もちろん、そんなの織り込み済みで実施したれ、って感じだが。

とか言いつつ結局、今一番の経営リスクはAIとかデジタルの外も外、米国の良く言って大胆過ぎる動きと、それに伴う経済・社会的なあれこれ＿|￣|○

なんかトランプ関税って、日本以外の国とも対立したり、何なら自国の産業にまで打撃を与えていたり、マジで何なのだろうww

米国の行政にも無駄な役人がいたのは理解するし、最初にそこにメスを入れたところまでは理解できていたつもりだった。でも現状、もしかして、ディールだの改革だのの実現に必要な頭数要員も計算せずに削減して、オペレーションがマトモに回ってないとかかな。なんか、みずほの記事のような計算もできてない気がするし。。。