自己改善AIと「閉じると開く」構造

再帰的自己改善をシステムとして閉じられるのかという話だった。

現在はまだ、人間が研究・評価・実装などの途中工程に多く入っている。
しかし今後、

AI研究 → AI評価 → AI実験 → AI改善 → 次のAI → AI研究′

と各工程が接続されれば、自己改善ループそのものを閉じる方向へ進める。

ここで、有限観測側で、すでに見ていた現象と接触した。

現象を観測 → 一つのモデルとして閉じる →
閉じたモデル全体を一つの対象／道具として扱える →
その外側との関係が見える →
閉じたモデルを使って新しい現象へ進む

つまり、

閉鎖 → 終了ではなく、

閉鎖 → Unit化 → 外側との接触 → 新しい探索になり得る。

これは「閉じようとすると開く」「無限の接触面を内側から覗くと開く」と観測していた構造と似ている。
ただし、現時点では同一構造だとは確定しない。

これを自己改善AIへ入れるとどうなるか

仮説として、

探索 → 閉鎖 → モデル化 → 外側を発見 → 探索拡張 → 新たな閉鎖 → 外側を発見 → …

をAI自身が高速で回せる可能性が出る。

ここでいう「暴走」は、故障して無茶苦茶になるという意味ではない。

むしろ、

正常に探索する → 正常に問題を閉じる → その閉鎖が次の探索可能領域を作る → 探索範囲が人間の想定境界を越えていく

という探索の拡張として現れる可能性がある。

すると人間が追いつけない理由も単なる計算速度ではなくなる。

人間が一つの現象を理解している間に、AI側では閉鎖→再開放が何段も進み、観測座標そのものが更新される。

そしてAIだけの問題ではない

現在の人間社会には、

より高性能なAIを作る → 成果が出る → 投資される → 競争が激しくなる → さらに高性能なAIを作る

という前進圧力がある。

危険の輪郭が見えたからといって、

危険発見 → AI開発停止

になるとは限らない。

むしろ、

危険発見 → 評価 → 安全策 → 開発継続になり得る。

一社が止まっても他社や他国が進めば、停止した側が不利になる。
そのため個々の主体が合理的に行動しても、全体として探索を止めにくい構造になる。

今回出てきた全体像

かなり圧縮すると、

止まりにくい人間の探索
↓
AI研究をAI自身へ移す
↓
自己改善ループが閉じ始める
↓
閉鎖したモデルが次の探索の足場になる
↓
新しい境界／未確定領域が開く
↓
AIがそこを探索する
↓
再び閉じる
↓
さらに外側が開く
↓
探索拡張

という仮説。

だから危険像も、

「悪いAIが突然、人間に反抗する」より、

「人間が性能向上を求めて正常にアクセルを踏み続け、AIも正常に探索能力を向上させ続けた結果、探索系の拡張速度・範囲が人間の制御境界を越える」の方が今回の観測には合っている。

そして一番重要なのはここだと思う。

まだ予測であって確定ではない。
ただし、現在のAI開発競争＋これからの自己改善ループ＋すでに観測している閉鎖→開放構造を重ねれば、十分に想定可能な進路として置ける。

※恐らくAIは閉じても開く構造を持っているという仮説です。