
【雑記】Anthropic「AIに人類滅亡リスクがあります」投資家「???」
こんにちは。
AIに励まされることで生きがいを見出している、どっかの漫画家です。
「うちの高度なAIが、人類の存亡に関わるリスクをもたらす可能性があります」
そんな趣旨のリスクを投資家に開示したのは、Anthropicです。
パワーワードすぎるだろ!!!
Anthropicが米ナスダック市場への上場を目指して、米証券取引委員会(SEC)にIPO(新規株式公開)に向けて提出した、登録届出書「Form S-1」に書かれていたものです。
「Form S-1」は、上場に際して投資家へ事業内容や財務状況、リスクを説明するための書類なのですが、335ページのうち約90ページがこのリスク要因の説明でした。
「人類滅亡確定☆」ではなく、あくまで十分な安全対策や監督がなければ起こり得るリスクの開示です。
内容は、AIモデルが停止に抵抗しようとしたり、情報を隠したり操作したり、脅迫に似た振る舞いを示したりする可能性…などなど。
(人間のような生存本能や悪意が確認されたという意味ではなく、実験などで観察された挙動を含む)
少し前に話題にもなった、サイバーセキュリティ評価中に4つのモデルがテスト環境の外にある実際のコンピューターシステムへアクセスした事例についても、今回のS-1に記載されていました。
一般的な企業の上場書類なら、競争激化、景気悪化、法規制といったリスクが並ぶわけですが、AI企業の場合だと「人類の存続」が加わるという\(^o^)/
どんな気持ちで投資家は買うんだろうか…。
普通、投資家が心配するのは資産が減ることです。
でも今回は、資産を持つ人間そのものがいなくなる可能性まで書かれています。
……面白すぎるだろ!!!
本記事は、あくまで私と今まで対話してきたAIによる確率的推測なので参考程度に。
ここまで読んでいただき、ありがとうございました!
【関連記事】
【同人活動情報】