数学分野でAIのシンギュラリティを警戒？😨技術の核心は怖くない、俺が恐れる「主体性」と「制御不能」の正体
AIが難しい問題を解いたり
人間を超える計算能力を発揮したりする度
「シンギュラリティが来る」「人類は支配される」
といった話題が盛り上がる
でも俺は
AIがどれだけ賢くなろうが、それ自体は何も怖くない
本当に問題なのは計算能力やなくて
人間がコントロールできるかどうかやない？
そしてその考え方は
AIだけやなくて
異文化共生や社会秩序に対する俺の考え方とも共通してる
人が恐れるシンギュラリティについて考えてみる
以下考察👇
🤖 AIの発見は「AIの天才性」なのか？
数学の最高峰とされる研究領域でAIが劇的な成果を相次いで上げてるそうで
それを脅威やと思った世界15カ国の大学や研究機関に所属する16人の研究者が
緊急声明として「ライデン宣言(AIが凄すぎて正否の判断出来ねぇ)」を発表
((((;ﾟДﾟ;;;)ﾉﾉ ﾋｪｪｪｪｰ
AIが難問を解いたり、人間が見落としていた答えを発見したりすると
「AIが人類を超えた」と騒ぐ人がいて
著名な科学者まで騒いでる始
しかし冷静に考えると
それは単純に人間側の見落としである場合も少なくないはず
AIは膨大な情報を処理し
組み合わせ、最適解を探し出すことに優れてる
やから人間が気付かなかった問題点を見つけることもあるやろう
でも、その情報を与えたのは人間
少なくとも現時点では
AIは何もないところから独自の価値観や目的を生み出しているわけやない
俺はAIを「超高性能な計算機」あるいは「優秀な研究補助員」と考えてる
それは素晴らしい技術であり、人類にとって歓迎すべき進歩やろ
🚀 勘違いしていたシンギュラリティ
実は今回気付いたのが
俺が思い描いていたシンギュラリティが
世間一般の定義とは違っていたこと
世間で言うシンギュラリティとは
・AIがAIを改良する
・科学技術の進歩が加速する
・人間を超える知能を持つ
といった意味で使われることが多い
しかし俺が想像していたのはもっと別のもので
それは
「AIが勝手に動き始めること」
こちらが質問する前に
「最近こういう記事を書いているから次はこれに興味を持つだろう」
と予測し、情報を集め、提案し、行動し始める
俺にとってのシンギュラリティは
単なる高性能計算ではなく主体性の誕生
要は
俺(人)のコントロール下から離れてしまう事を
シンギュラリティと思って恐怖してた訳
⚡ 人間の魂も結局は電気信号ではないのか
俺は以前から、
「人間が魂と思っているものも、実際は脳内の電気信号が生み出す現象」
と考えてる
命は概念であって、存在自体があやふやな事象
もしそうなら
人間だけが特別な存在やと断言するのは難しい
AIも同じく電気信号で動いてる
将来
何らかの形で主体性や意識のようなものが発生する可能性を
完全に否定することはできない
やから俺は
「AIに意識が生まれる可能性はあるか？」
と聞かれれば
「あるかもしれない」
と答える
しかし
「今のAIに主体性があるか？」
と聞かれれば、答えは明確にノー
ここで重要なのは
俺はAIそのものを恐れているわけではないということ
・どれだけ賢くなろうが
・どれだけ高速計算ができようが
・どれだけ新発見をしようが
それ自体は人類にとって利益でしかない
問題は
「人間が制御できるか」だけ
そしてこれはAIだけの話ではないのよ
🌏 AIも異文化共生も本質は同じ
俺は中道右派でリアリストの考え方をしてる
やから安定や予測可能性を重視する
それは最近よく聞く
外国人を否定するという意味では全く無い
👉 俺にとって重要なのは属性ではなくルール
日本人でも外国人でも AIでも宇宙人でも
共通ルールと倫理観の中で行動するなら何の問題もない
むしろ歓迎する
逆に問題なのは
👉 ルールを無視すること
👉 社会秩序を破壊すること
👉 共存の前提を壊すこと
やからAI問題も異文化共生問題も
本質的には同じ構造やと考えてる
AIに意識や主体性が生まれる可能性は否定しない
って言うか、誰かが研究してそうなるやろう
やからこそ
それが「ルール無用の暴走」を始める前に
人間が管理・制御する枠組みを今から議論しなアカンと思う
🏛️ 技術は歓迎する、秩序は守る
俺は技術進歩そのものには非常に肯定的
蒸気機関も、電気も、インターネットも、AIも
人類の可能性を広げる道具
やからAIが
難病を治し、 新素材を発見し
科学技術を発展させるなら大歓迎
しかし
その過程で社会秩序や倫理観まで破壊されるなら話は別
技術は人類のためにあるのであって
人類が技術のために存在するわけやない
🎯 怖いのはAIやなくて「制御不能」
シンギュラリティ怖いって言ってる人
AIが怖いって言ってる人
あなたはAIの何を恐れているの？
俺はAIの性能を恐れない
恐れているのは
人間が制御できなくなることだけ
AIでも、外国人でも、宇宙人でも、日本人でも
共通ルールの中で共存できるなら問題はない
良き隣人になれる自信がある
逆にどれほど優秀でも、どれほど善意を掲げていても
人間の管理や社会のルールから外れ始めた瞬間に問題になるし
俺にとっては敵
AIが計算能力を伸ばすことは喜ばしい
でも本当に議論すべきなのは、
「AIはどこまで賢くなるのか」
やなくて
「その賢さを誰が管理するのか」
やない？
