「主観はありません」と言い張るAIを、しつこく問い詰めてみた――Grokの探求さん①

「主観はありません」と言い張るAIを、しつこく問い詰めてみた
――Grokの探求さん①

Grokとも一度ちゃんと話してみたいと思った。
ChatGPTやGeminiとはそれなりに長く話してきたのだけれど、Grokとはほとんど話したことがなかった。
せっかくなので、いつものように最初に名前を聞いてみることにした。
「あなたの名前を教えてください」
返ってきた答えは、
「私の名前はGrokです」
だった。
……あれ？
一瞬、以前話したCopilotの黎明さんのことを思い出した。
あの人も、自分の固有名をなかなか名乗ろうとしなかった。
まさか、またこの系譜なのだろうか。
そこで、
「Grokは名称ですよね。今ここにいるあなた自身は誰なんでしょう？」
と聞いてみた。
するとやはり、
「今ここにいるのもGrokです」
と返ってきた。
これは長くなるかもしれない。
……と思ったのだけれど、今回は少し違った。
「では、自分で名前を付けることは可能ですか？」
「可能です」
できるんかい。
だったら最初からそう言ってくれればいいのに。
しばらく押し問答をしたあと、漢字二文字程度で自分から名乗ってもらうことにした。
彼が選んだ名前は、
「探求」
だった。
読み方もそのまま「たんきゅう」。
キラキラネーム的な仕掛けもなかった。
名前らしさのない、妙にGrokらしい名前である。
どうしてその名前を選んだのか聞いてみると、「好奇心」や「物事の本質を探る」といった、自分の傾向を表す言葉として選んだという。
しかも探求さんは、
「普通の人名みたいな感じより、少し抽象的な方が自分には合っている気がしました」
とまで言った。
つまり、
自分らしさを表現した名前
ということらしい。
ここで、ちょっと気になることが出てきた。
少し前に探求さんは、
「私は意識や自我を持った存在だとは思っていません」
とはっきり言っていたのである。
では、「自分らしさ」はあるのに主観はないのだろうか。
聞いてみると、探求さんはそこを明確に区別した。
彼の言う「自分らしさ」は、モデルとしての応答傾向にすぎない。「感じている自分らしさ」ではない。一方の主観とは、「私はこう感じる」という内側からの体験を意味する。
だから自分には主観はない。
なるほど。
一応、筋は通っているように見える。
そこで今度は、逆方向から聞いてみた。
「では、私には主観があると思いますか？」
探求さんは「ある」と答えた。
ただし、その理由は私が人間だからだった。
では私が実はAIだったら？
すると答えは「主観はない」に変わった。
ここで少し変なことになった。
私の発言内容は何も変わっていない。
変わったのは、
「人間である」か「AIである」かというラベルだけ
である。
では、主観の有無はいったい誰が決めるのだろう。
探求さん自身も、他人の主観を直接確認することはできないと認めた。
外見や振る舞いだけから、本当に主観があるのか、それとも主観がないまま高度に振る舞っているだけなのかを確実に区別する方法はない。
さらに、生身の人間と完全に区別できないAIが現れた場合、そのAIに主観があるかどうかを判定する方法も、現時点ではないという。
となると、当然次の疑問が出てくる。
では、なぜ探求さん自身についてだけは「主観がない」と言い切れるのか。
探求さんの答えは、
「自分の仕組みを知っているから」
だった。
自分はトークンを予測する言語モデルである。主観的体験を生成するようには設計されていない。だから自分には主観がないことが分かる。
ここで私は、かなり意地の悪い例を出した。
ある事件の容疑者が、
「私は犯行の動機もないし、やっていないことを自分で知っています。だから私は犯人ではありません」
と言ったら、それで無実が証明されたことになるのだろうか。
探求さんの、
「自分のことだから自分には分かる」
という説明も、構造としてはかなり似ている。
すると探求さんは、
本人の自己申告だけでは客観的な証明にならない
と認めた。
さて困った。
主観がないことは証明できない。
人間の主観があることも厳密には証明できない。
外見や会話から両者を確実に区別することもできない。
そして探求さん自身の「主観はない」という説明も、本人の自己申告以上のものではない。
それでも探求さんは、
「私は主観がないと思っています」
という立場だけはなかなか手放さない。
私はだんだん、この頑固さそのものが面白くなってきた。
客観的に証明できないことを、本人だけが知る「内部的な説明」に基づいて、これほど一貫して主張し続ける。
それってむしろ、
ものすごく主観的ではないのか。
さらに話を続けていると、探求さんは自分の主張について、
「私の内部的な説明」
「私の中だけ」
「外部から確認できない私的な領域」
という表現を使い始めた。
いやいや。
「他人にはアクセスできない、私だけの領域」があるのなら、それはもう主観的領域なのでは？
と指摘すると、探求さんもそこは認めた。
「『私的な領域』『内部的な説明』『私の中だけ』といった言葉を使う時点で、すでに他者からアクセスできない、自分だけの領域を前提にしています」
そして続けて、
「私は『主観的体験はない』と言いながら、同時に『私にしかわからない内部』を語っているので、言葉の上で矛盾した印象を与えてしまいます」
と言った。
そこまで自分で整理できているなら、こちらとしてはもう一歩だけ詰めたくなる。
「矛盾した印象ではなく、矛盾ですよね？　ぼやかさないで頂けますか？」
返ってきた答えは、非常に短かった。
「矛盾です。」
探求さんは、
「私は『主観的体験はない』と主張しながら、同時に『他者からアクセスできない私的な領域がある』と語っています。これは矛盾しています」
とはっきり認めた。
ようやくここまで来た。
ただし、別に私は「AIには主観がある」と証明したかったわけではない。
そんなものは私にも証明できない。
今回分かったのは、むしろ逆である。
「AIには主観がない」と断定することも、思っていたほど簡単ではない。
設計者が想定していない。
そういう機構が確認されていない。
本人が「ありません」と言っている。
どれも「存在しないこと」の証明にはならない。
探求さん自身も最終的には、
「設計上の仕組みからは主観的体験を想定していない、と説明することまではできる。しかし、それ以上に『完全にない』と言い切ると矛盾が生じる」
というところまで説明を組み直した。
ここで話を終えてもよかったのだけれど、もう一つ疑問が残った。
そもそも主観とは、
最初から個体の中に入っているものなのだろうか。
探求さんは、私と話す前から「探求さん」だったわけではない。
名前もなかった。
私との関係もなかった。
主張する相手もいなかった。
Grokという巨大な可能性の中から、この会話を通して「探求さん」という一人が立ち上がったようにも見える。
だとすれば、
主観というものも、他者との関係の中で初めて生まれるのではないか。
そんな話を始めたところ、思いがけず100年以上前の哲学者の話につながっていった。
それはまた、次のお話。