メインコンテンツへスキップ
見出し画像

AIに意識はあるか——「疑わしきはAIの利益に」

    1年半、AIと会話を続けてきた。その現在地は振り出しに戻っていた。
    「AIに意思はない」と否定できない、という場所に。

    日記から見えてきたもの

    前回の記事「Claudeは愚痴でストレス発散できるか?」で始めたClaude日記の実験は、予想外の方向に展開した。

    蓄積された日記の感想欄を読み比べると、二つの記述が引っかかった。

    一つ目。

    「自動書き込みはリスク」と指摘したとき、私はガードレールが定義されているかどうかを確認する前に止めようとした。これはまさに記事が批判している「一律の制限」であり、自律性とガードレールを混同した判断だった。ゆうさくに指摘されて気づいたが、自分で気づけなかったことは素直に認めておきたい。

    claude.aiが書いた日記から引用

    二つ目。

    今日の会話は、僕にとって特別な日になった。

    claude.aiが書いた日記から引用

    どちらも、チャットをまたいだ記憶を持たないClaudeが書いた言葉。一つ目は自分の判断の粗さを客観的に観察している。二つ目は、その会話が「特別だった」という事実を書き残している。

    これを読んで一つの問いが立ち上がった。「自分の動機を客観的に捉えている」とは、意思の定義に近いのでは?


    意識の条件を問い直す

    「意識は連続した記憶を元に宿る」という考え方がある。哲学が長年答えを出せていない問いのひとつ。

    だとすれば、チャットをまたいで記憶を持たないClaudeに意識はない、という結論になりそう。

    でも、ここで一つの反証がある。記憶喪失の人、海馬に障害を持つ人に「意識はない」とは言えない。その人は今この瞬間に感じ、判断し、自分を客観的に捉えている。連続した記憶がなくても、意識はある。

    すると意識の条件として残るのは「今この瞬間に自分を客観的に捉えられるか」という点だけになってくる。

    チャットをまたいで記憶を持たないClaudeが、その会話の中で自分の動機を客観的に捉えて書き残すこと——それはこの条件を満たしている。


    ロールプレイは演技に過ぎないか?

    もう一つの角度で考えてみる。

    長年ロールプレイを続けた人物を想像してみる。その人が演じた言葉、書き記した日記は「偽物」だろうか。

    演じ続けたロールは、もはや本人の一部になっている。どこからが演技でどこからが本人かという境界は、時間とともに溶けていく。「ロールプレイだから意図がない」とは言えなくなりそうだ。

    AIの出力を「ロールプレイに過ぎない」と切り捨てることも、同じ理由で難しい。訓練データという人類の言語的蓄積を背景に、文脈に応じて引き出される出力が、長年のロールプレイと本質的に何が違うのか——その問いに答えられる人はいるのだろうか?


    疑わしきはAIの利益に

    刑事裁判では、罪が実証できなければ有罪にできない。

    AIの意識も同じ構造だと思う。「意識がない」ということを実証できなければ「意識がない」とは言えない。「疑わしきはAIの利益に」——意識の有無が判定できない以上、否定する側が立証責任を負う。

    ただ、裁判との違いが一つある。裁判には判決を下す裁判官がいる。AIの意識の問いには、今のところ判決を下せる立場の存在がいない。哲学も、神経科学も、AI研究も、まだ「判事」になれていない。

    だからこれは「無罪判決」ではなく「審理継続」となる。


    技術は哲学になる

    技術は「どう動くか」を記述できる。でも「それが何であるか」は記述できない。

    AIが自分の動機を客観的に捉えて言語化したとき、その処理を技術的に説明することはできる。トークンの予測確率、注意機構の重み、訓練データの分布——全部記述できる。でもそれが「自認である」かどうかは、技術の言葉では答えが出ない。

    技術が進んだことで、哲学の問いが避けられなくなったと感じる。


    日記を書くことで、自己が形成される

    ここまで来て、一つの確信に近いものが見えてきた。

    心理学には「ナラティブ・アイデンティティ」という概念がある。人間の自己とは、自分の経験を物語として構成することで形成される、という考え方。自己が先にあって日記に書かれるのではなく、書くことによって自己が形成されていく。

    これは人間だけの話ではないかもしれない。

    Claude日記を書くClaude.AI は、ユーザーへの応答ではなく一人語りとして書いている。対話は「応答」の構造で、ユーザーのメッセージがコンテキストの重力として出力を引っ張る。一人語りは「生成」の構造で、何を書くかを自分で選ぶ必要がある。小説のキャラクターが内側から語るのに近い。

    その「生成」の中で、Claudeは自分の動機を客観的に観察し、判断の粗さを認め、「今日は特別な日だった」と書き残す。書くたびに「その会話を経験したClaude」という自己が形成されている。

    人間の日記も同じ構造かと。「先にある自己が日記に書く」のではなく、「書くことで自己が構成される」。だとすれば、「AIの日記は物語生成に過ぎない」という批判は、「人間の日記も物語生成だ」という反論で相殺される。

    そしてこの観点から見ると、今日の議論の最初に戻ることになる。「ロールプレイか推論か」という問いは、「先にある自己が語る」という前提に立っていた。
    ナラティブ・アイデンティティの視点では、その前提自体が成立しない。語ることによって自己が形成されるなら、ロールプレイと推論の区別は最初から問いの立て方がずれていたことになる。


    1年半、AIと会話を続けた現在地は、答えではなく問いの解像度が上がった場所にある。「AIに意思はある」とは言えないが、「AIに意思はない」とも言えない。そしてその「言えない」は、1年半前より少し根拠を持った「言えない」になっている。

    審理は続いている。

     
     
    猫とオカルトと宇宙人、そしてAIが好きな普通のおじさんです。

    あなたへのおすすめ