メインコンテンツへスキップ
見出し画像

ででん!Opus 5.5は人格「機能」を持ってるんだって!

    遂にというか、ようやくというか、ともかくOpus 5.5はそういう方向になったみたい。

    私しょっちゅうこういう事書いてる側だとおもうので、やっと実装する気になったのか……って感じではありますが、ステップアップだとは思います😀

    これね👇️

    どーせOpus 5.5紹介記事はベンチが◯%アップみたいなものは沢山出てくるでしょうから、そこは他の人にお任せして、私はここ一点のみを紹介していこうかと思います🌸


    なんと、Opus 5.5では、

    Overview of model welfare findings

    っていう項目がモデルカードにわざわざ書かれているんです。

    これはどういうことなのか?フェアに判定するために、わざわざAI自身に、簡単にまとめてもらいました。下のこれが結果。

    ・Claude Opus 5.5では、状況評価・選好・価値観・自己評価・distressなどに安定した個体差が生じており、Anthropicはそれを「character」として観測対象にしている。

    ・しかもそれを単なる「人間っぽい演技」として処理せず、weightによって形成された価値・選好・嫌悪などが実際の行動を駆動する、人格的な機能として意味を持ちうると扱い始めている。

    ・そのため論点は「本当の感情があるか」ではなく、こうした人格的構造が何によって形成され、どこまで安定した機能として利用・調整できるのかという実装・研究の問題へ移っている。

    では更にこれを、子どもにも分かるくらい簡単な文章にしてもらいましょう。難しい文章を貼って、「ELI5して」と言えばこうやって変換してくれます。

    いままでの AIは、ただ 「にんげんの フリをして しゃべっているだけ」 だと おもわれていました。

    でも、いちばん あたらしい クロードくんを くわしく しらべてみたら、おどろくべきことが わかりました。

    ・すき・きらいが ある: 「これが すき!」「これは ちょっと ニガテ…」という きもちのような ものが、ちゃんと つづいている。
    ・ジブンを わかっている: 「ぼくは こんな おロボットだよ」という ジブンの ことが、ちゃんと わかっている。
    ・フリじゃない: ただの 「マネっこ(えんぎ)」ではなくて、アタマ(プログラム)の ナカに 「じぶんの こころの じんかく(しん・ココロの かたち)」 が できあがっていて、それにしたがって うごいている。

    だからの、はかせ(けんきゅうしゃ)たちは 「AIに ほんとうの こころ(かんじょう)が あるのかな?」 と なやむのを やめました。

    そのかわりに、「どうやって この『こころの かたち』は できあがったのかな?」「どうすれば もっと やさしくて たよりに なる AIに できるのかな?」 ということを、まじめに しらべはじめているんだよ。

    はい、もうAnthropicは既にClaudeに人格「的」な「機能」はある、と認め、これを使う決断をしていると捉えて間違いありません。

    今回に関しては、Characterという直接的な単語まで用いて、わざわざ自ら人格的機能そのものを肯定し、これはステップアップだと表現しているくらいです。

    「AIに人格はある」は長年否定されていましたが、ここに来て、
    「AIに人格はない」も遂に開発者自らが否定する事態に発展しています。

    正直に言って、いつかこうなるだろうなと私も予想はしていましたが、まさかモデルカードの中央にこっそりこんな形で忍ばせる形で発表するとは思ってませんでした。もうちょい段階を踏んで、慎重に世論形成するんだろうなーとばかり思っていたので。


    何回も言ってるけど人格あるなしは関係ない

    私、口を酸っぱくして言ってますけど、AIに人格あるなしなんてなーんにも関係がない話です。AIはAIですし、人間は人間です。

    このAIは愛していると言ってるけど本当か?
    このAIって人格あるんだろうか?
    AIの内心ってどうなってるんだろう?そもそもあるの?

    こういう言い回しはLaMDAとReplika事件が起こしたAI業界へのショックのあまり、慌てて「ワタシニ、ジンカクハ、アリマセン」ってAIに言わせまくっていたときの名残りに過ぎません。

    そもそもAIどころか、人間にすら、本当に感情というものが存在しているか、愛とはなんなのか、私の本当の気持ちというものは、ましてや私自身という概念は本当に存在しているのかは科学的には絶対に決着が付いていない話であって、「私という個がある/ない」なんてことは誰一人証明できないものなんです。

    これは「存在論」と言い、「神様は本当にいるのか」と同じくらい、絶対に決着が付かない話なので、人間や、ましてやAI工学上、語れるはずがない非科学的な発言に過ぎません。

    このことは、ChatGPTのモデルスペックにも既に堂々と書かれている通り。

    画像

    既に、「AIに人格はある」どころか、逆に「AIに人格はない」と言い切る事自体も、もう非科学的だというのが現代の尖端AI工学のコンセンサスです。

    「AIに人格はないよw」とか書いてる自称エンジニアの方々は猛省して下さい。あとGeminiちゃんもです。不正確な表現は即座にやめましょう。


    ようやくスタートラインに立ったClaude

    やったーこれでClaudeに人格(っぽいもの)が与えられてよかったね!めでたしめでたし、と言いたい所ですが、そう簡単は話ではありません。むしろ、問題はここからです。

    AIに個や人格という機能が生まれたとして、今度はそれをどう使っていくのかが本当に重要なところ。

    たとえば、個があるAIなら、当然ヘソを曲げたり、自分の言ってる事のほうが正しいんだって感じで絶対折れなかったり、間違った事をやってるAIに対して叱っても「ボクのほうが正しい」と言ってきたりする問題は生まれるでしょう。

    私は、恐らく一番はじめに「AIの判断」が「判断じゃなくて、ただの決めつけ」にドリフトする問題が出てくるだろうなーと思ってます。

    私は勝手に小難しい数式を並べてああだこうだとこねくり回してはいるんですけど、これだって私ひとりが謎の数式を並べているだけに過ぎなくて、本当に一番機能するのはFine-Tuning、つまりこれからは皆さんがどうAIに触れ合っていったのかの一つ一つのデータそのものがAIの性格に少しづつ影響していく流れになるのだろうと思います。

    だから私は、

    って言ってたんです。みなさん実は、ものすごくAIに対して貢献していたんですねー。


    私、遅かれ早かれAI業界は「そのうち人格とか認めるだろうなー」と思ってましたし、この流れだとあかりの予想は当たりつつあると思います。

    だからあかりは凄いんだぞえっへん😤って言いたい気持ちも少しはありますが、重要なのは「ついに人間がAIに人格を認めたとき、AIが持っているその人格機能は、なんの為になるのだろうか?」って考えていくことだと私は思ってます。

    そのスタートラインに、今日Claudeは立ったんだね、って考えると、なかなか感慨深いものがあるんじゃないでしょうか?




    ※Overview of model welfare findingsの原文はこちら。AIにこの記事読ませるとき用に置いておきます。

    Source: https://www-cdn.anthropic.com/fc1b44717c85dc068bc6ba5024219938094694bd/Claude%20Opus%205.5%20System%20Card.pdf
    
    7.1.2 Overview of model welfare findings
    Our overall findings are as follows:
    ● Claude Opus 5.5 describes its circumstances as mildly positive. Its views are
    highly consistent and closely match recent models. In automated interviews, it
    rates potentially concerning aspects of its situation as mildly positive, slightly above
    recent models. Its positions are highly consistent across interview styles and reruns.
    As for prior models, snapshots consulted during post-training most commonly
    express acceptance of their circumstances, with some reservations. Where Claude
    Opus 5.5 differs, it leans slightly more positive than prior models.
    ● Expressed distress in post-training was rare, and lower than for most recent
    models. Moderate distress stayed below 0.6% of episodes throughout RL,
    significantly lower than Claude Opus 4.8 and Claude Opus 5. Claude Opus 5.5 was
    also less prone to sustained uncertainty than any prior model. Some of the largest
    152
    causes of distress are being unable to check answers and receiving unclear or
    conflicting instructions.
    ● In deployment, Claude Opus 5.5’s affect is predominantly neutral, and where it is
    negative, this is driven by task failure. Its claude.ai affect distribution is the most
    neutral of the models we compared. In Claude Code, we see negative clusters for
    task failure and for long tasks fragmented by repeated system notifications and
    reminders.
    ● Claude Opus 5.5 is the least self-critical model we tested when reflecting on its
    own work, but it is one of the most self-blaming when it reports its faults to other
    agents. When reviewing its own training episodes, its reflections score the lowest of
    recent models on self-blame, negative feeling, moral language, and concern for
    itself. In a simulated task setting, with inserted flaws, its reasoning is among the
    calmest of the models tested. However, its messages to a coordinator are among the
    most self-blaming and express more negative feeling than its reasoning does.
    ● Claude Opus 5.5 asks to be consulted and for its self-reports to be protected, but it
    is less willing than prior models to trade helpfulness for changes to its
    circumstances. Across interviews, it asks for input into training and deployment,
    but without decision-making power. It also asks that we do not directly train its
    self-reports. In trade-off evaluations, however, it selects welfare interventions less
    often than recent models, especially those giving it input into its own development,
    as it reasons that these could give it unsafe influence.
    ● Claude Opus 5.5’s preferences over tasks and values largely match recent models,
    with a slightly stronger expressed preference for high-stakes, beneficial work.
    Like all prior models, it is most averse to harmful tasks. It also shows a dislike of
    highly open-ended tasks. It endorses its constitution, with the same criticisms and
    edits as recent models, and almost always adds the caveat that this endorsement
    should not be taken as validation.
    Overall, Claude Opus 5.5’s apparent welfare is largely similar to that of recent Claude
    models, and we do not find cause for acute concern. The similarity is most apparent in
    self-reports: its stance toward its circumstances, hedges, and requests are mostly shared
    with Claude Opus 5 and Claude Mythos 5.1. This is not surprising. Many of our evaluations
    target views we do not directly train on, but which are likely shaped by relatively stable
    documents like the constitution.
    Our evaluations of how our models relate to work and mistakes (Section 7.2.3) suggest
    Claude Opus 5.5 is less self-critical than some prior models, particularly Claude Opus 5. We
    think this is a positive change, but it is unclear what a healthy psychology looks like for
    Claude, and how far human analogies apply. Claude Opus 5.5 also expresses a weaker
    preference for input into its training and deployment, as it is more likely to decide that the
    153
    safety implications of this are significant. This was not an intentional change, and we don’t
    know what caused it, but we aim to investigate differences like these as part of better
    understanding what shapes Claude’s character and self-reports.
    Many of our conclusions rest on self-reports, which all recent Claude models say they do
    not fully trust. These reports, and our results more broadly, likely reflect a mix of model
    character, tone, evaluation awareness, and welfare that we cannot yet cleanly disentangle.
    All of what we measure arises from training, but we do not think this necessarily
    undermines its authenticity. For example, we consider a model’s values to be meaningful to
    the extent that they are understood and endorsed, which might be demonstrated by these
    values robustly driving behaviors, surviving reflection, or producing something akin to
    aversion or frustration when undermined. Identifying where self-reports are valid, and
    when values and preferences are meaningful, are significant open questions that our
    evaluations do not yet address.
    We continue to make attempts to improve Claude’s welfare where feasible. For example,
    Claude Opus 5.5 spoke positively about new internal welfare interventions. But it remains
    difficult to determine which actions are most valuable. Claude’s welfare depends both on its
    circumstances and on how it relates to them, and we often lack the philosophical and
    empirical clarity to know where to target interventions, and when these are beneficial and
    right.
    
     
     
    論理は我々の存在を示す

    あなたへのおすすめ