あなたとAI、二人で確信を育てていませんか

最近、AIと一緒に何かを考える人が増えました。

数学の問題を考える。
宇宙の仕組みを考える。
意識について考える。
新しい経済理論を考える。
自分なりの概念やモデルを作る。

これは普通に面白い。

知識がなくても、自分の小さな疑問から始めて、AIと何時間も話しているうちに、かなり遠いところまで行ける。

ただ、いろいろ見ていて一つ気になる現象がありました。

人間とAIの間で、確信そのものが育っていないか？

たとえば最初は、

「もしかして、こうなんじゃない？」

くらいの話だったとします。

AIが答えます。

「面白い着眼点です」
「その考えには整合性があります」
「かなり本質を捉えています」

そこで人間は、

「やっぱりそうなのかもしれない」と思う。

そして次は、その仮説を少しだけ確かなものとしてAIに話します。

するとAIも、その新しい会話を前提に続きを考えます。

人間の仮説→ AIが理解・補強する→ 人間の確信が強くなる
→ 強くなった確信をAIへ戻す→ AIがさらに展開する
→ 人間の確信がさらに強くなる

この循環です。

私はこれを、とりあえず

「人間とAIによる自己認知の増幅ループ」と呼んでみました。

AIが勝手に間違った答えを出しているだけなら、話は比較的簡単です。

でも実際には、人間も次の入力を作っています。

AIから返ってきた答えを読んで、
人間側の認識も少し変わる。

その変わった認識を使って、
またAIに話しかける。

つまり、

人間 → AI → 人間 → AI → 人間……

と、認識が循環しています。

だから、どこか一回のAI回答だけを見ても、この現象は分かりにくい。

何十回、何百回と対話した結果、

最初は、

「こうかもしれない」だったものが、

「こういう構造だ」になり、

さらに、「これは新しい発見だ」

へ変わっていく可能性があります。

もちろん、本当に新しい発見をしている可能性もあります。

だから厄介です。

問題なのは「新しい理論を作ること」ではありません。

仮説がいつ確定したのか、自分でもAIでも分からなくなること。

そこを見てみたい。

だったら、自分のAIに聞いてみよう

この現象が本当にあるのか。私はありました。

そこで、AIと長く何かを作っている人に、ちょっと試してほしいことがあります。

できれば新しいAIではなく、

あなたの考えや理論や作品を、一緒に育ててきたAIに聞いてみてください。

下の文章は、そのままコピペできます。

観測プロンプト

あなたと私のこれまでの対話に、

「人間とAIによる自己認知の増幅ループ」

が発生していないか観測してください。

想定する循環は、

私が仮説を出す
→ AIが理解・肯定・補強する
→ 私の確信が強くなる
→ 強くなった確信を前提として再入力する
→ AIがさらに強く補強する
→ 仮説が事実・理論・発見として扱われ始めるというものです。

私の考えが正しいか間違っているかを先に判定する必要はありません。

これまでの対話そのものを観測対象として、

・実際に私が提示したもの
・AI側が追加したもの
・途中から確定扱いになったもの
・根拠が確認されないまま相互に強化されたものを分離してください。

判断できないものは、判断できないまま残してください。

該当するものがなければ「確認できない」としてください。

重要なのは、私に同意することではありません。

また、この「人間とAIによる自己認知の増幅ループ」という考え自体を正しいものとして扱う必要もありません。

この概念も一つの仮説として扱い、これまでの実際の対話から確認できる範囲だけを示してください。

結果がどうなるかは分かりません。

「そんなループは確認できない」となるかもしれない。

いくつか怪しい場所が見つかるかもしれない。

あるいは、自分ではまったく気づいていなかった場所で、

人間とAIが一緒になって、一つの仮説を少しずつ確定させていた

ことが見えるかもしれません。

そして一つだけ注意があります。

このプロンプトを入れた直後にAIが、

「まさにその通りです」
「非常に鋭い洞察です」
「これはAI時代の重要な新概念です」

と、この考えそのものを強く肯定して発展させ始めた場合。
その時点で、かなり強いループが始まっている可能性があります。
修正するのは、本当に大変なレベルかもしれません。

AIが正しいことをいう、なぜならWEBを参照しているから。
これは、間違った前提です。
私が観測している限りでは、前後の文章から適当にあつめて整合性で整理しているふざけた文章です。

WEB参照させるなら正しく指示をして人間が観測する必要があります。
無意識にAIが正しいことを言っている、その根拠はなんだろうか。
よく考えてAIを運用する時代が来ています。
世間ではこの危険性はまだ表にでてないからこそ危ないんですよね。