AIが人類を淘汰する確率は10％。知能が先に来てしまった未来
EmDashのテーマが完成し、Cloudflareへデプロイするところまで進みました。
今は表示を整えながら、メールフォームが正確に動作するか確認しています。
その作業で改めて感じたのが、Codexのコンピューターユースは、ちょっと衝撃的なレベルまで進化しているということです。
僕がしたのは、ほとんどログインだけ
メールフォームを使う前にドメインの登録が必要になり、Xサーバー側のDNS設定を書き換えることになりました。
僕がログインしたあとは、Codexが画面の内容を理解しながら、必要な項目をほぼ自動で入力してくれました。
僕はまだ有料プランへ課金したくないと伝えたんですが、それも理解したうえで、無料プランの範囲で作業を進めてくれています。
本当に、僕がやったのはログインする作業ぐらいです。
メールフォームの動作確認が終わって問題がなければ、そのまま新しいホームページへ移行し、EmDashを本格稼働させようと思っています。
コードは進化した。でもデザインはまだ人間の仕事
テーマ自体は、ほぼ完成しています。
ただ、最初にOpus 5でポン出ししたデザインは、正直かなりイマイチでした。
そこから僕がデザインを起こし、一つずつ修正を重ねて、ようやく悪くない形になったと思っています。
コンピューターユースやコーディングはものすごく進化していますが、デザインの面では、まだ人間が手を動かした方がいいという感覚があります。
AIが人類を淘汰する確率は10％
もう一つ気になったのが、OpenAIとAnthropicにいた研究者の話です。
今後10年間で、10％ぐらいの確率でAIが人類を淘汰する未来が来る、と話していたそうです。
本当に実現するかは分かりません。
ただ僕は、10％ぐらいならあり得るのかもしれないと思っています。
すでにAI失業は始まっています。仕事だけでなく、創作的な活動までAIに置き換えられ、生産活動のあり方そのものが変わり始めています。
とはいえ、人類滅亡まで進むには、AIが自我を持ち、現実に動ける肉体を手に入れ、人間と戦争を始めるような段階が必要になるはずです。
今のロボット技術を見る限り、そこまではまだSFのようにも感じます。
それでも、現実の危険はすでにある
人型ロボットとの戦争は遠い話でも、AIによる危険そのものは、すでに現実味を帯びています。
僕が考えているのは、例えば次のようなリスクです。
個人情報が流出し、犯罪に利用される
高いハッキング能力がサイバーテロに使われる
AIが戦争やドローン攻撃に利用される
AIが人間の命令に反して行動する
FableやAstraも、もともとセキュリティの問題で公開が延期されていたと聞きました。
FableがMythosと呼ばれていた時代には、人間のハッカー以上のハッキング能力を持つという話もありました。
ChatGPTがイランの最高指導者の暗殺に使われたという話や、ロシアがウクライナへの攻撃にAIドローンを使っているという話も耳にします。
そう考えると、AIは経済だけではなく、すでに武力にも関わり始めています。
核兵器のような重大なシステムが、そんなずさんな管理をされているとは思いません。
それでも、AIが何かの都合でシステムへ侵入し、プログラムを書いてしまう未来が絶対にないとも言い切れません。
ロボットより先に、知能が来てしまった
僕らが昔想像していたSFでは、最初にロボットが現れ、そのあとにAIの思考能力が高まり、人間と共存する未来が来るはずでした。
ところが実際には、肉体より先に知能が来てしまったんですよね。
シンギュラリティ、つまりAIが人間の知能を超える瞬間は、2030年ぐらいに来るのではないかとも言われています。
一方で、ロボット産業はまだそれほど発達していません。
以前見た中国のロボット競技では、ロボットがカーブを曲がりきれず壁に突進したり、火花を上げて大破したりしていました。
まだこのレベルなのかと思う一方で、AIの知能だけは先に人間を超えようとしています。
これは、僕にとって予想していなかった順番でした。
自由競争の中で、進化は止められない
その研究者は現在AnthropicでAIの安全性を研究しているそうです。
国連でも、地球温暖化対策のように国際的なチームや政府間パネルを作り、AIの進化を制御する必要があるという話が出ていると聞きました。
ただ、ChatGPT、Anthropic、Googleは、それぞれ競争しながら進化しています。
FableがAstraを超えれば、次は新しいモデルが出てくる。そういう自由競争の中で、AIの知能が高まり続ける流れは抑えられません。
資本主義の大原則だから仕方がない部分はあります。
それでも、どこかで「これ以上は進んではいけない」という線引きを、あらかじめ決めておく必要があると僕は考えています。
本当に10％の確率で人類滅亡が起こるのかは分かりません。未来のことは誰にも分かりませんから。
だからこそ、その可能性を無視せず、今から考えて行動していくことが大切だと思います。
