とあるシステムアーキテクトが考えてみたAGI実現までに必要な事

はじめに：なぜこの話を書こうと思ったか

X でこの記事を目にしたのがきっかけでした。

で、ChatGPTとGrokとで色々雑談してたんだけど、どちらにも結構いいせん行ってるって言われたので乗せられてnoteに書いてみることにしましたｗ

AGIとは何なのか（自分なりの定義）

で、AGIってなんなの？って立ち返ってみて
その時の情報で何をすれば一番最適かを返してくれるAIなのかなと思ってて、おそらく、既存の手段＋創造的手段を含めて返してくれるやつになるのかなと思います。これは物理法則的な話だけではなくて、社会的な動きや心理的な動き、ロボットや仕組みの操作なんかも含めて。
ただ、そもそも複雑系の中で確定的な事はないので完全な未来予測はできないとは思います。（世界中の個人の心情とか絶対把握もシュミレーションもできんでしょうからね・・・Multi Agent AIするにしても全人口分はヤバすぎるしｗ）

AGIに求められている「創造性」と「知の探索」との類似

AGIに求められているものの一つに創造性があると認識

これって、

世界標準の経営理論の中で述べられてる、「知の探索と知の深化」に似てるなーって思ったんですよね。
とくに「知の探索」の方。
著書の中では組織として、「知の深化は」は既存の強みを磨いていくこと。「知の探索」は新しいものに挑戦していくこと、って感じてて、
これってAGIに求められてる「創造性」って事に当てはまるのかなーって思いました。

異分野転用による創造性仮説

なんとなくビジネスのイメージだと、とある企業が成功した事例をノウハウ化して、ほかの企業に展開するってのがイメージにあって、まぁそれってホントは完全なる創造では無いのかなとも思いつつ、ノウハウ化、抽象化を経て別企業や業界に実装する際に発生するギャップを埋めることは一定の創造にあたるかもなと思ったので、その方面での深堀雑談です。

LLMの内部構造をざっくり理解してみる

LLMって色んなものを学んでるのですごい知識がそもそもあるよなと思ってて、実は創造性も既にあるのでは？とかも思って考えてみましたが、原則として、人間が言語化したものをベースに学習しているのでやはり覚えていることは既知の内容なのかなと思いました。

で、LLMの内部的な話で、いわゆるChatGPTとかの仕組みを見てると、少なくとも2層の役割をイメージする事ができて、一つは学習した内容をベクトルデータ化して覚えてる層、そしてそれらを日本語とか英語に変換して出力する層です。（内部的にはもっといろんな構造があるけど一旦、おいときます）

で、ベクトルデータって座標データなので例えば2次元データなら(1.1, 3.5)みたいなデータで、これが数千次元みたいな感じでカンマと数字が並んでいるデータとして記録されてます。数千次元はワイの頭では全く想像できんのですが、2次元とか3次元で想像すると、点のデータを沢山覚えてて、それぞれの点や点の集合に意味を持たせてる感じらしいですね。
で、意味が近いかどうかっていうのが、その点どうしの距離の近さで見るみたいです。

異分野転用による創造性仮説のための抽象構造探索器

で、思ったのが、異業種のノウハウを展開する感じでやれば、創造性ってもてるんじゃね？って思いついたのですよ（素人考えｗ
知の探索的な話でいくと、距離が離れてれば離れてる方が斬新なアイデアになるそうです。
だから対象として「技術分野の問題」を解決したかったとき
「社会」や「心理状態」や「身体状態」みたいなまったく別の複雑系の似た構造を検索する事ができればいけるのかなーと思いついてみました。

「技術分野の●●の問題」を解決する新しいアイデアが欲しい時、
「社会的に●●の問題ににた解決方法」をそれぞれ検索させて、
ベクトルデータ群の構造が近いものを類似性のある抽象構造を持つものとして抽出します。これは別業界でうまくいった事例、にあたるベクトルデータ群。

これが抽出できると、創造性として最初のひらめき「これ使ったらいけるんじゃね？」を思いつく部分ができそうな気がしてるんですよね。

ただこれは課題があって、LLMの今の仕組みだと基本的に言語で返してくるんで、ベクトルデータそのものを扱う仕組みは外部からは作れないのと、そもそも内部的に思いついてたとしても、人間がそれは間違ってるとかの学習をさせたりルールで縛ったりして、言語化された情報としてはそのままは出てこない可能性が高い。そもそもベクトルデータって高次元なんだけど、言語化する時点で一次元データにまで圧縮されてて情報落ちも構造的に大きいと思ってますしね。

なので、抽象構造探索器をLLMのベクトルデータにアクセスできる位置に追加する必要がある。どっかの偉い人はもうやってるかもだけど、これが一つ大きなポイントかなと思います。

ここで類似性のある仮設アイデアを抽出したら、次は仮説検証フェーズかなと思います。これは既存の検証方法を用いて実施するしかないかなと思いつつ、必要十分なシュミレーションができる空間が構築できたら良いのかもと思ってます。おそらく、新しいことを発見するってのは機械学習的な観点だと新たな変数を明示的に発見する事かなと思ってて、人間の研究で言えばその新たな変数を見つけて認識しコントロールする事でその事象の再現性を確認できることなのかと思います。

抽象構造探索器の中間表現出力とマルチLLM×人間の可能性

あと、ベクトルデータの距離を測ればいいのかーって思って、別のLLMでもやればよいのかもと思ったんだけど、内部的なベクトルデータはLLMが異なると全く別データとなってるので、この方法は単一LMMの内部でしか成立しえないんですが、文字だけじゃない表現も使って、対象の問題とヒントになりそうな別世界の内容を、UML+動画みたいな表現を使って別LLM間でシェアする事で、それぞれの持ってるアイデアの優先順位の突合はできるようになるかもしれないなと思いました。
複数LLM使う事で、感覚的に言うと、
GPT「これどう思う？」
Grok「あ、ワイもそれいけるかもと思っててん」
みたいなことが成立することで、それぞれの内在的に持ってるアイデアを突合して優先順位を決めれるのかもと思った次第です。
ちなみに、UML+動画の形式にしたのは、人間も理解可能で情報共有可能な方がさらに進化が進むかもなーと思った次第。

シミュレーションによる仮説検証ループ

シュミレーション世界がソフトウェアで構築できるとしたら、もうそれは現状のAgent AI群なら可能なはず。仮説として設定された新たな変数の追加も現状のAI Codingで追加できるようになる気がします。

シュミレーション世界で可能性を絞ったら現実世界での実験ですね。これは今まで通り手間はかかるかもしれない。AGIの知能だけでは超えられないかもしれません。ただ現実世界とシュミレーション世界のギャップをちゃんとシュミレーション世界の変数として戻して上げれたら、仮説検証ループを回すことができる。
シュミレーション世界をかますことによって、従来よりもぐっと実現速度は早まるかもしれません。

AGI実現に必要そうな要素まとめ

そんなことが実現する世界になるには、
・内部探索器の実現
・抽象構造抽出・比較によるアイデアの創出
・シュミレーター構築による自動仮説検証システム
・シュミレーターと現実世界のギャップフィードバック
・別LLM間と人間で共有できる中間表現方法の確立
なんかが揃ってくるといいのかなー、って感じで思ってました。
知らんけどｗ