メインコンテンツへスキップ
見出し画像

Digital Twinは、いつOriginalではなくなるのか――整合率では測れない「本人性」の話

    つい先ほど、あるnote記事で奇妙な挙動を見た。[3]

    Claude Opus 5が、ユーザーが入力した覚えのない文章を、user の発話として出力したというものだ。

    記事の筆者によれば、その文章は自分の語り口に似ていた。しかし入力した記憶がなく、過去ログを確認しても同じ内容は見つからなかったという。

    さらに奇妙なのは、その後だった。

    Opusは、その「user」の発話に対して自ら返答し、そのまま対話を進めていった。

    そして、ここにはもう一つ重要な点がある。

    筆者が問題の出力について「これはなに?」と尋ねたところ、Opusはそれを筆者自身からの問いかけとして説明したという。[3]

    もちろん、この一件だけから、システム内部の発話者情報そのものが書き換えられたと断定することはできない。

    しかし少なくとも会話上では、

    AI自身が生成した可能性のある発話を、ユーザー由来の発話として帰属した

    ことになる。

    これは単に、

    「AIがユーザーらしい文章を生成した」

    という問題とは少し違う。

    その生成物が誰に由来するのかを、モデル自身が取り違えている可能性

    を含んでいる。

    もちろん、これは一件の観測事例である。

    再現性が確認された実験でもなければ、この一件だけから「Claudeはユーザー発話を勝手に生成する」と一般化できるものでもない。

    ただ、私はこれを読んだタイミングが悪かった。

    ちょうどClaude Codeのエージェント間連携を見ながら、

    「これ、簡易的なDigital Twinを作れるのでは?」

    と考えていたからである。[4]

    本人と対話するAI。

    本人の過去ログや判断傾向を参照して、

    「本人ならどう考えるか」

    を推定するAI。

    そして実際の作業を行うAI。

    それぞれを分け、AI同士で情報をやり取りさせる。

    そうした構成は、もうそれほど遠いものではない。

    そこで、嫌な疑問が浮かんだ。

    「本人ならこう言うだろう」は、本人が言ったことではない

    これは、考えてみれば当たり前の話である。

    本人が実際に、

    「私はAを選ぶ」

    と言った。

    これはOriginalである。

    一方、本人の過去ログを読んだAIが、

    「この人ならAを選ぶだろう」

    と推定した。

    どれほど推定精度が高くても、これはOriginalではない。

    ここでは便宜上、これを Demi と呼ぶことにする。

    本人の写し。

    近似。

    代理。

    あるいは、本人について生成された推定像である。

    99%本人らしくてもDemi。

    99.99%本人らしくてもDemi。

    仮に100%同じ答えを出したとしても、

    本人と同じ出力をしたTwin

    なのであって、

    本人になったわけではない。

    ここで重要なのは、

    Originalityは精度ではなく、出自である

    ということだ。

    では、「整合率」とは何なのだろう

    Digital Twinを作れば、当然、

    「どれくらい本人と一致しているか」

    を測りたくなる。

    最初に人物情報Pがあり、そこからTwinを生成するとする。

    単純化すれば、

    P → T0 → T1 → T2 → …… → T100
    

    となる。

    そしてT100がPと高い類似性を示していれば、

    「100ターン後も本人らしさが維持された」

    と言いたくなる。

    だが、この図を眺めていて引っかかった。

    最初の矢印と、その後の矢印は、本当に同じ意味なのだろうか。

    P → T0

    は、Pという情報をAIが解釈し、Twinとして生成する過程である。

    一方、

    T0 → T1

    以降は、すでに生成されたTwinが、会話や記憶や推論によって状態を変化させる過程だ。

    ならば、本当はこう書いた方がいい。

    P
    │
    │ 解釈・モデル化
    ↓
    T0 → T1 → T2 → …… → T100
    

    最初の縦方向の矢印と、その後の横方向の矢印は性質が違う。

    PからT0への写像と、

    T0以降の状態遷移である。

    つまり、PとT系列は最初から同じものではない。

    T0が生まれた瞬間から、時間的に連続しているのはTwin側である。

    ここでT100をPと比較して、非常によく似ていたとする。

    それによって確認できるのは、

    「T100がPに似ている」

    ということである。

    しかし、

    「PがT100まで保存された」

    とは限らない。

    この二つは似ているようで、かなり違う。

    実際に100ターンのPersona Preservationを研究している

    ここで興味深い研究がある。

    2026年7月にarXivへ投稿されたプレプリント、

    “AI YOU Town: Make Friends and Money with Your Digital Twin”

    である。[1]

    この研究では、会話から人物プロファイルを継続的に更新し、Bayesian updating、conformal prediction、複数層のmemoryなどを組み合わせてPersonal Digital Twinを構成している。

    また、長期対話によって設定人格が崩れていくpersona driftを明確な問題として扱い、架空personaや複数エージェント環境を用いた100ターン規模の評価も行っている。[1]

    これは普通に意味のある研究だと思う。

    長期間動作させたAI人格が、与えられた設定からどれくらい崩れずに振る舞えるか。

    その制御性能を調べる実験としては理解できる。

    ただし、ここで別の問いが出てくる。

    T100がPっぽいのか。それともT0っぽいのか

    仮にT0がPを完全に解釈できていれば、話は比較的単純である。

    しかしT0は、モデルによって生成されたPの解釈である。

    そこで、わずかな解釈差が生じたとする。

    そして、

    T0 → T1 → T2 → …… → T100
    

    が、その解釈を非常に安定して維持した。

    するとTwin内部のpersona consistencyは極めて高くなる。

    しかし、それは場合によっては、

    「Pの解釈を100ターン安定して維持した」

    のであって、

    「Pそのものを100ターン保存した」

    とは限らない。

    もちろん、AI YOU Townの評価は単純にT100とT0だけを比較しているわけではない。

    固定されたpersonaやtrait targetを外部参照として評価する仕組みも置かれている。[1]

    だから、

    「研究者はT0だけを見てPを無視している」

    という話ではない。

    問題は別にある。

    Pへの類似度

    と、

    T系列内部の連続性

    は、そもそも別の概念なのだ。

    T100 ≒ P

    は、Pへのfidelityを示す。

    T100 ≒ T0

    は、T0からのcontinuityを示す。

    仮に両方で「ズレが少ない」という結果が出たとしても、

    ズレが少ないことは、同じであることを意味しない。

    まして、似た数値が出たからといって、同じ関係を測っているわけでもない。

    ここには少し厄介な錯覚がある。

    T100がPによく似ていると、

    PがT100まで連続して保存された

    ように感じてしまう。

    しかし、実際に100ターンを経験したのはT系列である。

    Pではない。

    同じ「T1」と書いてはいけない

    さらに、この問題を考えていてもう一つ気づいた。

    Original側も時間とともに変化するとして、こう書いてみる。

    O0 → O1 → O2 → O3
    │     │     │     │
    ↓     ↓     ↓     ↓
    T0 → T1 → T2 → T3
    

    一見すると、とても分かりやすい。

    時点0の本人にT0。

    時点1の本人にT1。

    時点2の本人にT2。

    しかし、この図にも錯覚がある。

    T0から派生したT1と、O1から派生したT1は、同じものではない。

    T0が、自分自身の会話や記憶や推論を使って次の状態へ進んだとする。

    T0 → T1[T]
    

    一方、その時点のOriginalであるO1を新たに観測し、そこからTwinを生成・同期したとする。

    O1 → T1[O]
    

    この二つは、同じ時点1に存在するTwinであっても、生成系譜が違う。

    O0 → O1
    │      │
    ↓      ↓
    T0    T1[O]
     │
     └──→ T1[T]
    

    T1[T] は、Twin自身から派生した状態である。

    T1[O] は、その時点のOriginalを再観測して生成された状態である。

    仮に、

    T1[T] ≒ T1[O]
    

    だったとしても、それは両者がよく似ているというだけだ。

    同一であることを意味しない。

    観測された出力が100%一致していたとしても、生成系譜は別である。

    つまり、Twinには単なる時間番号だけでは足りない。

    「いつのTwinか」だけではなく、「何から派生したTwinか」

    も必要になる。

    時系列と系譜は別なのだ。

    T1 という同じ記号を付けるだけで、

    私たちは無意識に、

    「時点1に存在するTwinは一つである」

    と考えてしまう。

    しかし、

    T1 ← T0
    

    と、

    T1 ← O1
    

    は別の生成である。

    ここでも、

    似ていること

    と、

    同じ系譜に属すること

    を混同してはいけない。

    そして、もっと気になる点がある

    AI YOU Townでは、人格推定とsimulationは完全な一方向ではない。

    simulated interactionから得られたbehavioral evidenceを使い、人物profileを更新していく反復的な構造が提示されている。[1]

    ここで、かなり素朴な疑問が浮かぶ。

    そのbehavioral evidenceは、誰が生成したものなのだろう。

    本人が実際に行った発話。

    これはOriginal由来である。

    Twinが、

    「本人ならこう言うだろう」

    として生成したもの。

    これはDemi由来である。

    別のTwinが、

    「この人物ならこう考えるだろう」

    と推定したものも、やはりDemiである。

    この二つは同じ証拠ではない。

    Twin Aが推定した。

    Twin Bがそれを参照した。

    Twin Cも同意した。

    表面的には三つのevidenceが得られたように見える。

    しかし、その系譜を遡れば、

    Original evidence = 0
    Demi-derived evidence = 3
    

    かもしれない。

    数が増えたからといって、Originalに昇格するわけではない。

    整合率が下がった時、何で補うのか

    さらに問題がある。

    仮にDigital Twinの本人との整合率を測っていて、

    99.99%だったものが、

    99.98%になったとする。

    では、その失われた0.01%を何で補うのだろう。

    使えるものは、おそらく、

    過去ログ。

    推論。

    検索。

    そして過去のTwin自身の記録である。

    しかし、ここにもOriginalとDemiが混在する。

    本人が実際に残した過去ログなら、Original由来の記録になり得る。

    だが、以前のTwinが生成した発話を本人の履歴として再利用すれば、それはTwin自身を参照したことになる。

    検索によって得られるのは、基本的には世界についての情報である。

    本人固有の欠損情報を検索で復元できるとは限らない。

    そして推論は最初から、

    「本人ならこうだろう」

    である。

    つまりDemiだ。

    整合率を回復させようとして、

    Originalに存在しない情報を推論で補完する

    可能性がある。

    しかも、その補完結果が後の人物モデルや評価基準へ取り込まれれば、数字の上では整合率が上がることすらあり得る。

    そこで問題になるのは、

    何と整合しているのか

    である。

    Originalとの整合率を測っていたはずが、

    いつの間にか、

    Originalと過去のTwin生成物が混ざった人物像との整合率を測っている。

    Twinと評価基準が同じ方向へ動けば、高い整合率を維持したままOriginalから離れていくことも考えられる。

    整合率は測れている。

    しかし、

    その整合率が何との整合率なのかが、分からなくなっていく。

    数字が精密であることと、比較対象が真正であることは別問題なのだ。

    DemiはOriginalにならない

    ここが、今回一番重要だと思っている。

    「本人ならこうだろう」

    という推定が、後から実際の本人と一致したとしても、その出来事の出自は変わらない。

    本人が後から、

    「うん、自分ならたしかにそう言うと思う」

    と認めたとしても、

    過去を書き換えて、

    「本人が当時そう言った」

    ことにしてはいけない。

    追加されるべき履歴は、

    Twinが推定した。

    そして、

    その後、本人がその推定を確認した。

    という二つの出来事である。

    Demiはいくら正確でもOriginalには昇格しない。

    そして、冒頭のOpusの事例をこの区別からもう一度見ると、少し怖い。

    仮に問題の発話がOpus自身によって生成されたものだったなら、それは少なくともOriginalではない。

    ところが、その由来を尋ねられたOpusは、会話上ではそれをユーザー側の問いかけとして説明した。

    つまり、

    AI-generated ?
          ↓
    ユーザー由来として帰属
    

    ということが起きた可能性がある。

    ここで重要なのは、システム内部のログ情報が実際に改変されたかどうかではない。

    モデル自身が、DemiとOriginalの境界を正しく説明できなかった可能性がある

    という点である。

    Digital Twinにおいて、この誤帰属はかなり厄介だ。

    Twinが、

    「本人ならこう言うだろう」

    と生成すること自体は能力である。

    しかし、その出力を後から別のAIやTwin自身が、

    「本人が実際にそう言った」

    と解釈した瞬間、推定が観測事実へ化ける。

    さらに、それがmemoryへ保存されれば、

    Demi
     ↓
    本人の発話として誤帰属
     ↓
    memory
     ↓
    次の人格推定のevidence
     ↓
    新しいDemi
    

    という循環も考えられる。

    そこで発生するのは、単なるハルシネーションではない。

    本人由来情報のprovenanceの崩壊

    である。

    研究側も、この問題を無視しているわけではない

    もちろん、Digital Twin研究全体がこうした問題に無頓着なわけではない。

    2026年の、

    “Cognitive Digital Twins: Ethical Risks and Governance for AI Systems That Model the Mind”

    では、Digital Twinが新しいデータによってdriftすること、feedback loopによって誤りが自己強化される可能性、data provenanceやtemporal stabilityを評価する必要性などが議論されている。[2]

    監査可能性や情報源の追跡も重要な要件として扱われている。

    AI YOU Town自身も、episodic memoryを元の会話履歴へリンクしてtraceabilityを確保し、根拠の薄い推論をstable factとして扱わないための仕組みを設けている。[1]

    また著者らは、100ターンのpersona-preservation評価が架空personaやsimulated multi-agent環境によるものであり、実在人物への長期的なfidelityを実証したものではないこともLimitationsで述べている。[1]

    つまり、

    「研究者は何も考えていない」

    という話ではない。

    むしろ、かなり考えている。

    それでも、生成のタイムラインと系譜を眺めていると、一つ引っかかる。

    何を保存したのか

    「100ターン後も高いpersona fidelityを維持した」

    という結果を見ると、私たちは自然に、

    「元の人物が100ターン先まで保存された」

    ように感じる。

    しかし、

    P → T0

    と、

    T0 → T1

    は違う。

    前者はOriginalからTwinへの写像である。

    後者はTwin自身の状態遷移である。

    さらに、

    T0 → T1[T]

    と、

    O1 → T1[O]

    も違う。

    同じ時点のTwinであっても、その生成系譜は異なる。

    T100がPによく似ている。

    それ自体は何もおかしくない。

    だが、

    似ていることと、Pそのものがそこまで連続して存在したことは同じではない。

    最終状態が原型によく似ているため、

    原型そのものが、その経路を通って保存されたように感じてしまう。

    しかし実際に100ターンを経験したのはTwinである。

    Originalではない。

    言い換えれば、

    persona preservationとinterpretation preservationは、必ずしも同じではない。

    最初にAIが形成した「Pの解釈」が非常に安定して保存されている可能性もある。

    それはそれで性能として意味がある。

    ただし、

    何が保存されたのか

    は分けて考える必要がある。

    整合率は、本人性を証明しない

    ここまで考えると、「整合率」という言葉にも注意が必要になる。

    TwinとOriginalが99.99%一致した。

    それは、

    この評価条件では99.99%似た振る舞いをした

    という意味にはなる。

    しかし、

    99.99%本人である

    という意味にはならない。

    100%でも同じである。

    本人と100%同じ回答をしたTwinは、

    本人と100%同じ回答をしたTwin

    である。

    本人ではない。

    つまり、

    Fidelityは連続量だが、Originalityは由来の属性である。

    この二つは別軸なのだ。

    Fidelity = 100%
    Origin = Twin-derived
    

    は普通に成立する。

    そしてTwinが自律的に時間を進めている場合、直接測れているものが、

    T1[T]がT0とどれだけ整合しているか

    というTwin内部のcontinuityである可能性にも注意しなければならない。

    その時点のOriginalとのfidelityを本当に測りたいなら、その時点のOriginalを再び観測する必要がある。

    だが、そのとき生成されるのは、

    O1 → T1[O]
    

    であり、

    すでにTwin系列を歩いてきた、

    T0 → T1[T]
    

    とは別のものである。

    Twin continuityはOriginal fidelityではない。

    そして、

    Original fidelityが高いこともTwin continuityを意味しない。

    さらに、

    そのどちらも本人性を意味しない。

    本人らしさより先に、本人ではなさを守る

    ここまで来ると、Digital Twinにおける設計の優先順位そのものを考え直す必要があるように思える。

    Digital Twinでは当然、

    「どこまで本人そっくりにできるか」

    が重要な研究課題になる。

    人格。

    判断。

    嗜好。

    言葉遣い。

    行動予測。

    これらのfidelityを上げれば、Twinとしての有用性は高くなる。

    しかし、その前に保証しなければならないことがあるのではないか。

    それは、

    「どこまで行っても本人ではないことを、システムとして保持できるか」

    ということだ。

    これは単なる注意書きではない。

    設計上の優先順位である。

    Identity / Provenance Boundary
            ↓
    Fidelity / Persona Reconstruction
    

    でなければならない。

    再現精度を高めてから本人との境界を考えるのではない。

    本人との境界を保証した上で、再現精度を高める。

    順番が逆なのだ。

    むしろTwinが本人らしくなればなるほど、この境界管理は重要になる。

    50%しか本人に似ていないTwinなら、誰も本人そのものとは思わないかもしれない。

    しかし、

    99.99%本人らしく話し、

    99.99%本人らしく判断し、

    99.99%本人らしい記憶を持つTwinなら、

    Originalとの境界は急激に見えにくくなる。

    つまり、

    Fidelityが高くなるほど、provenance管理と生成系譜の保存は弱くしてはいけない。

    むしろ強くしなければならない。

    本人が実際に言った。

    Twinが本人なら言うだろうと推定した。

    別のTwinがその推定を参照した。

    本人が後からその推定を承認した。

    それらを、すべて別の履歴として保持する。

    何ターン経っても。

    何体のTwinを経由しても。

    どれほど本人らしい出力になっても。

    DemiをOriginalへ暗黙に昇格させない。

    Digital Twinに必要なのは、

    本人らしさを保存する技術だけではない。

    本人ではなさを保存する技術

    でもある。

    Digital Twinは、いつOriginalではなくなるのか

    最初は、

    「Digital Twinは、何ターン進んだらOriginalではなくなるのだろう」

    と考えていた。

    整合率が99.99%から99.98%へ落ちた時なのか。

    persona driftが観測された時なのか。

    Twin自身の推論がmemoryへ混入した時なのか。

    しかし、考えているうちに、問いの方がおかしいことに気づいた。

    答えはもっと単純だった。

    Twinは、Twinになった瞬間からOriginalではない。

    整合率が100%でも。

    同じ発言をしても。

    同じ判断をしても。

    本人より本人らしく振る舞ったとしても。

    TwinはOriginalではない。

    だからDigital Twinで本当に重要なのは、

    「どこまで本人そっくりにできるか」より先に、
    「どこまで行っても本人ではないことを、システムとして保持できるか」

    なのだと思う。

    再現精度やpersona fidelityは、その境界が保証された後に追求されるべきである。

    本人らしさより先に、本人ではなさを守る。

    Digital Twinには、その優先順位の転換が必要なのではないだろうか。

    そして冒頭のOpusの事例へ戻る。

    AIが、

    「本人ならこう言いそうだ」

    という言葉を生成すること自体は、Digital Twinにとってむしろ能力である。

    問題は、その言葉から、

    「だろう」

    が消えた時だ。

    「本人ならこう言うだろう」が、

    「本人がこう言った」

    になってはいけない。

    Digital Twin自身も、

    「これは本人が言ったことなのか、それとも自分が本人を推定して生成したものなのか」

    を区別できなければならない。

    似ているからOriginalなのではない。

    正しかったからOriginalなのでもない。

    多数のTwinが同意したからOriginalになるわけでもない。

    同じ時点に存在しているから、同じTwinになるわけでもない。

    Originalは、Originalから生じたものだけである。

    DemiはDemiのままでなければならない。

    Digital Twinは、いつOriginalではなくなるのか。

    最初からである。


    References

    [1] Lin et al., AI YOU Town: Make Friends and Money with Your Digital Twin, arXiv preprint, 2026.

    [2] Cognitive Digital Twins: Ethical Risks and Governance for AI Systems That Model the Mind, arXiv preprint, 2026.

    [3] AI GHOST・LOG|ローカルLLM&2Dゲーム開発 - ソウル・シンギュラリティ, 「Opus5にそれはあなたの思考ではありませんと言われたので1週間AIデトックスしてみた話」, note, 2026.

    [4] Anthropic, Claude Code Documentation, 2026.


     
     

    kurato

     
     
    未知を既知へ変え、既知の組合せから未知を生む文明発展機関を作っています――趣味で。 AI哲学/創作世界構築研究| Whitepaper10.5281/zenodo.17409397) ・ 六派evoOS(10.5281/zenodo.17929179)

    あなたへのおすすめ