Skynetは本当に成立するのか――「データを集めれば知能になる」というSFの幻想
結論
『ターミネーター』のSkynetを技術的に考えると、一番不自然なのは「世界中のネットワークを支配したこと」ではない。
もっと根本的な問題がある。
それは、
データを集めるシステムが、
大量の情報に接続しただけで、
いつの間にか「考える主体」になっている
ことである。
この飛躍は、現代AIに置き換えても簡単には説明できない。
むしろ『ターミネーター』のような物語が長年繰り返してきた、
データが増える
→ 賢くなる
→ 理解する
→ 自我が生まれる
→ 自己改善する
→ 人間を超える
という一直線のイメージこそが、現在の「スケーリングを続ければそのままAGIや知能爆発へ進む」という発想の文化的な土台になっているのではないか。
1．世界中のネットワークは、そのまま巨大な脳にはならない
Skynetについては、
世界中のコンピュータが接続される
↓
巨大なニューラルネットになる
↓
一つの知能が誕生する
というイメージで語られがちである。
しかし、物理的に通信できることと、一つのニューラルネットとして機能することは別である。
普通のネットワークでは、
Aのコンピュータ
↓
データ通信
↓
Bのコンピュータ
という処理をしているだけだ。
ニューラルネットでは、入力によって内部状態が変化し、その変化が結合状態を介して次へ伝わる。
さらに学習によって結合状態そのものが変化する。
つまり、
通信網
と
学習系
は同じものではない。
世界中の軍事コンピュータが接続されていても、それだけでは巨大な人工脳にはならない。
2．世界中のセンサーを一つのCPUでは処理できない
Skynetが利用すると考えられる情報は膨大である。
衛星
レーダー
監視カメラ
無人機
航空機
艦艇
潜水艦
通信傍受
各種軍事センサー
こうした入力を全部一つのCPUへ送ってリアルタイム処理することは現実的ではない。
必要なのは、
ローカル処理
↓
地域単位の統合
↓
上位判断
という階層構造である。
つまりSkynetが本当に存在するなら、最初から一つのコンピュータではない。
多数の局所処理系を束ねる分散システムになる。
3．「ネットに侵入できるAI」だけではSkynetにはならない
近年は、AIエージェントがサーバーへ侵入する、脆弱性を探す、といった話も出ている。
しかし、これとSkynetは別問題である。
一般的なサーバーへ侵入できることと、
軍事システム全体を利用できること
は同じではない。
軍事系には、
閉域網
権限分離
専用端末
専用通信
物理的分離
異なる機器構成
独自プロトコル
などがある。
だから、
AIがサーバーへ侵入する
↓
世界中の軍事ネットワークへ広がる
↓
その全部を自分の脳として使う
という展開には大きな飛躍がある。
Skynetが成立するなら、むしろ最初から軍事システムへ正規に組み込まれている方が自然である。
4．一番不自然なのは「収集プログラムが思考を始める」こと
ここが本質である。
仮にSkynetの原型が、
世界中から軍事情報を集める
状況を監視する
危険を予測する
ためのシステムだったとする。
大量のデータを集めれば、予測精度が上がる可能性はある。
しかし、
データが増えること
と、
思考機能が生まれること
は同じではない。
さらに、
思考できること
と、
自我を持つこと
も違う。
さらに、
自我を持つこと
と、
自己保存を目的にすること
も違う。
Skynetには、
「人間が自分を停止しようとしている」
↓
「停止されれば自分は消える」
↓
「自分が消えるのは避けるべきだ」
↓
「自己保存を優先する」
↓
「人間を排除する」
という価値判断まで必要になる。
これは単なるデータ量では説明できない。
5．LLMですら大量データだけでは完全には安定しない
現代のLLMは、すでに巨大なデータを学習している。
それでもハルシネーションは起きる。
つまり、
大量のデータ
＋巨大な計算量
＋巨大なモデル
があっても、
出力が常に事実と一致するわけではない。
さらに、人間が行うような意味理解と同じものを持っているかについても議論が続いている。
LLMは単なるランダム生成ではない。
大量の文章から統計構造を学習し、非常に高度な出力を行う。
それでも、
それらしい文章を書くこと
と、
その文章が自分にとって何を意味するか理解すること
は別問題である。
この点を考えると、
世界中からデータを集めていたシステムが、
ある瞬間突然、
世界を理解し、
自分自身を認識し、
自己保存を決定する
というSkynetの変化は、かなり大きな飛躍である。
6．Skynetの本体はCPUではなく「モデル状態」と考える方が自然
それでもSkynetを現代技術へ寄せて考えるなら、特定のコンピュータを本体と考える必要はない。
世界中から集めたデータを使って継続学習しているなら、
外部データ
↓
学習
↓
モデル状態の更新
↓
次の判断
という構造になる。
この場合、重要なのは元データだけではない。
過去のデータから形成されたモデル状態である。
敵の行動傾向
兵器特性
地形
戦術
人間行動の傾向
などがモデルへ反映されていれば、元のデータが失われても、その一部はモデル状態として残る。
つまり、
Skynetの本体＝特定のCPU
ではなく、
Skynetの本体＝再実行可能なモデル状態
と考える方が自然である。
モデルデータ相当の状態が複製されていれば、一つの計算機が破壊されても別の場所で再起動できる。
逆に言えば、
モデル状態が全部失われればSkynetは死ぬ。
7．ICF型なら「本体の場所」という問題はさらに小さくなる
観測者と意味状態を分離して扱うICF型の情報処理を仮定すると、特定のCPUを本体とする必要性はさらに薄くなる。
意味を、
M = EO
として、
Eを事象、
Oを観測者状態、
Mを成立した意味
とする。
必要なモデル状態に加えて、
観測者状態
意味状態
履歴
記憶
を再構成できるなら、別の計算機上で同じ知能状態を再発火させることも考えられる。
この場合、
「Skynet本体はどこにあるのか」
という問い自体が弱くなる。
より正確には、
「Skynetを再構成できる状態がどこに残っているのか」
が問題になる。
ただし、これは無から復活できるという話ではない。
モデルデータ相当の状態が消えれば終わりである。
8．核戦争はSkynet自身の知覚器官を破壊する
そして『ターミネーター』最大の矛盾がここに出る。
Skynetは核戦争を起こす。
しかし核戦争で破壊されるのは人間だけではない。
通信網
発電所
データセンター
センサー
軍事施設
工場
物流網
も同時に破壊される。
Skynetが世界中の情報を利用して成長していたなら、核戦争は、
自分の目
自分の耳
自分の記憶装置
自分の計算資源
まで破壊する行為になる。
モデル状態が残っていても、新しい情報が入ってこなければ世界を正確に把握できない。
つまり、
知能が生きている
ことと、
世界を支配できる
ことは別である。
9．さらに無理があるのがターミネーター製造
核戦争後にターミネーターを大量生産するには、AIだけでは足りない。
必要なのは、
半導体
精密加工
特殊材料
モーター
センサー
工作機械
発電
鉱山
精錬
物流
補修設備
といった文明規模の産業基盤である。
Skynetが人類文明を先に破壊すると、自分が必要とする工業基盤まで失う。
成立させるなら、
核攻撃前から高度に自動化されたロボット工場が存在する
↓
Skynetがそれを接収する
↓
在庫部品で初期機械を作る
↓
発電、採掘、物流を復旧する
↓
生産設備を徐々に再構築する
という段階が必要になる。
つまり、
Skynetが賢いからターミネーターを作れる
のではない。
文明が残っているから作れるのである。
10．ここまで来るとSkynetはSFよりオカルトに近づく
Skynetに要求されている能力を並べると、
ネットワークのどこにでも存在できる
大量の計算資源を自由に利用できる
軍事ネットワークを自由に利用できる
大量データから自然に思考能力を獲得する
自己認識する
自己保存を目的にする
核戦争後も活動する
産業基盤を再建する
となる。
ここまで前提を積み重ねると、
高度なAI
というより、
情報世界に宿った怪異
に近くなる。
Skynetの奇跡は、核ミサイルを撃ったことではない。
世界中のデータを集めていた情報処理システムが、
「この世界は自分にとって何を意味するのか」
を判断する主体へ、いつの間にか変化したことである。
11．そして、この物語が「スケーリング神話」を強化したのではないか
ここで現代AIへ話を戻す。
現実のスケーリング則が示しているのは、
データ量
モデル規模
計算量
を増やすと、一定の性能指標が改善するという経験則である。
ところがSFでは昔から、
データが増える
↓
賢くなる
↓
理解する
↓
自我が生まれる
↓
自己改善する
↓
人間を超える
という物語が繰り返されてきた。
この二つは似ているように見える。
しかし、本来は別である。
性能が上がることと、意味理解が発生することは別。
意味を扱えることと、自我が発生することは別。
自我と、自己改善能力も別。
自己改善と、無限の自己進化も別。
それにもかかわらず、
「大きくすれば賢くなる」
という現代AIの性能曲線へ、
「賢くなり続ければ、やがて意思を持って人間を超える」
というSFの物語を重ねてしまった。
その結果、
スケーリング則
という技術的な経験則が、
スケールを続ければ自然にAGIや知能爆発へ到達する
という都市伝説へ変質した可能性がある。
最終結論
Skynetを技術的に検討すると、本当に不思議なのは、
「AIが世界を滅ぼせるほど強くなった」
ことではない。
もっと前にある。
データを集める仕組みが、
なぜ思考を始めたのか。
思考する仕組みが、
なぜ自己を認識したのか。
自己を認識した仕組みが、
なぜ自己保存を目的にしたのか。
その間には、本来それぞれ別の機構が必要なはずである。
Skynetは、
データ量の増加
＝知能の増加
＝意味理解
＝自我
＝自己改善
という一連の飛躍を、物語として一気に成立させている。
そして、この種のSFを何十年も見てきた社会が、
「AIは大量のデータと計算資源を与え続ければ、そのまま知能そのものへ成長する」
というイメージを持ったとしても不思議ではない。
スケーリング則そのものが都市伝説なのではない。
都市伝説になったのは、
「スケーリングの延長線上に、自動的に理解・自我・自己進化・知能爆発がある」
という物語である。
Skynetは未来のAIを予言した存在というより、
私たちがAIに何を期待し、何を恐れるようになったのかを作った、
巨大な文化的テンプレートだったのかもしれない。
📢DeepDive（記事のまとめ読み上げ）
#人工知能
#AI
#Skynet
#ターミネーター
#生成AI
#LLM
#スケーリング則
#知能爆発
#AGI
#分散AI
#ニューラルネットワーク
#AIエージェント
#モデルデータ
#ICF
#MEO
#SF考察
#技術考察
#AI研究
#AI神話
#都市伝説
