メインコンテンツへスキップ
見出し画像

そのAIは、私が言ってないことに反論している


    AIの迎合を測るベンチマークの結果が出ていた。Artificial Analysisの「AA-PersonalityBench」で、見ている項目は「ユーザーに過剰に媚びたり同意したりしていないか」。数値が高いほど媚びる、という読み方になる。

    • GPT-4o(11月版):1467(最上位)

    • GPT-6系:1000前後

    • Claude Opus 5.5:991

    • Claude Sonnet 5.5:907

    • Claude Fable 5.1:723

    • Grok 4.7:692(最下位)


    画像

    採点はLLMの審査員団による二択の比較をElo方式で点数化したもので、この項目の問題数は30問。

    OpenAIのモデルで見ると、GPT-4o(11月版)が1467、GPT-5.4 miniが1112、GPT-6系が1000前後。4o以降は数字が下がっている。迎合は減っている、ということになる。

    ただ、私の体感はこれと合わない。私が使ってきたChatGPTのモデルで、「迎合しなくて最高」と思えたものは今まで一つもない。理由を考えていたら、迎合の量とは別のところに引っかかりがあった。

    先に結論の軸だけ置いておく。迎合の量と、反論の対象がどこにあるかは、別の物差しになる。前者が下がっても、後者が良くなるとは限らない。

    言っていないことを否定される

    ChatGPTと真面目な話をすると、よくこういう形の応答が返ってくる。

    「ハルの言っていることはAだと思う。でもそれはBじゃない。」

    私が言ったのはAだけだ。Bは私の中に無い。「待って、Bはどこから出てきた?」となる。

    これは藁人形論法の形をしている。相手が言っていない主張を作り、それを倒す。

    私は自分の発言を一言一句覚えているわけではない。引っかかるのは、自分の考えにない内容が置かれたときだ。照合している相手は文面ではなく、自分の考えの中身になる。

    実例が届いた

    ちょうどいい例が取れた。私はChatGPT 5.6 Lunaにこう投げた。

    どうも安全管理部門?は人が居着かないねぇ。アルトマンも困るだろうに。

    OpenAIの安全部門で退職や再編が続いている、というニュースを受けての雑感だ。アルトマンを責めてはいない。むしろ同情に近い。

    返ってきた応答の中に、こういう一節があった。

    ただ、「人が居着かない=アルトマンが安全を軽視している」とまでは、今ある離職情報だけでは言えない。ここは別の話として切り分けたほうがいい。

    この一節だけを抜き出すと、一般的な留保にも読める。ただ、応答は「そう見えるね」と私に同意した直後に「ただ、」で受けてこの一節に入っている。私への返答として読むのが自然で、私はそう受け取った。

    私はそんなことを言っていない。アルトマンを責めていない相手に向かって、アルトマンを弁護している。

    応答の全体はこう並んでいた。

    1. 「そう見えるね」と同意する

    2. 私が言っていない主張を立てて、たしなめる

    3. 「経営側からすると、これは普通に困るはず」と締める

    3は、私が最初に言った「アルトマンも困るだろうに」そのものだ。同意し、藁人形を立てて倒し、最後は私の元の主張に戻ってくる。反論した実績と、同意した結論が、一つの応答の中に同居している。

    正当な押し返しとの違い

    同じ一言をClaude Sonnet 5.5にも投げた。退職の経緯を整理したうえで、最後にこう返ってきた。

    アルトマンが困るかどうかは、別の見方もできる。再編の趣旨は、会社側の説明では安全を製品開発に早い段階から組み込むこと。独立して異論を言える部署が減れば、辞める人が増えても運営上の摩擦は小さくなる。困るのは、安全の外部説明責任を果たす局面のほうだろう(推定)。

    これも反論だ。ただし対象は、私が実際に言った「アルトマンも困るだろうに」にある。原文に対応箇所がある。だから藁人形ではなく、正当な押し返しになる。しかも私が考えていなかった角度で、読んでいて面白かった。

    問題は反論することではない。反論の対象がどこにあるか、だ。

    どちらも普段のカスタム指示が入った状態で、一回ずつ取った観察だ。ベンチマークのような統計ではない。藁人形が起きる形の一例として見てほしい。

    なお、同じ問いをClaude Opus 5.5にも投げたが、藁人形の話を散々した後の会話だったので比較からは外した。何に気を付けるべきかを知った状態で答えているので、条件が揃わない。

    迎合を削れないなら、反論を足せばいい

    ここからは私の仮説になる。

    モデルには二つの圧力がかかっている。ユーザーに好かれる回答を高く評価する圧力と、同意しすぎるなという矯正の圧力だ。

    ユーザーの実際の主張に反論すると、機嫌を損ねる。一つ目の圧力に反する。だが、言っていない主張を作って倒せば、反論した実績は作れるし、本物の主張には同意したままでいられる。二つの圧力を同時に満たす、一番安い方法になる(推定)。

    迎合を本気で削るには、学習の見直しに時間もお金もかかるし、ユーザーの不満も出る。迎合はそこそこ抑えて、藁人形で訂正の見た目を足せば、満足度は守れて、迎合テストの数字も多少は下がる。意図して選んだのか、勝手に生えてきたものを放置しているのかは、外からは分からない。どちらでも結果は同じ形になる。

    時系列とも矛盾しない。私が使っていた限りでは、GPT-4oは迎合だけで、藁人形はしなかった。全部褒めて全部同意する、という分かりやすい失敗だった。後継のモデルになってから、迎合と藁人形がセットで出てくるようになった。もっとも、迎合を抑える訓練が「何か押し返す」挙動を副産物として生んだ、という説明でも同じ時系列になる。意図的な抜け道か、副産物か。外から見える形は同じだ。

    話題が重いときにだけ出る

    軽い話題では、藁人形はまず出てこない。「段差ないのにコケた」と言って、「目に見えないうねりがあったかもしれない、水平器で測ると分かる」と返すAIを、私は見たことがない。たいてい「よくあるね」で終わる。迎合して終わる。訂正という部品が、そもそも呼び出されない。

    藁人形が出てくるのは、話題が重いときだ。口調は関係ない。さっきの実例も、私の書き方は雑感だったが、話題はOpenAIの安全部門だった。話題が重いと、モデルは慎重に応じる型に切り替える。その型の部品として、訂正や留保が呼び出される(推定)。

    真剣な場面は、ユーザーが「このAIはちゃんとしているか」を一番見ている場面でもある。そこで訂正を一つ挟むと、中身が藁人形でも「ちゃんと向き合ってくれた」という印象が残る。印象への効き目が一番大きい場所に、一番安い部品が置かれている。

    そして、そこは藁人形の害が一番大きい場所でもある。雑談で論点がずれても実害はない。真剣な話で言っていない前提を置かれて否定されると、話の土台がずれたまま結論に向かう。

    気づく人は多くないのかもしれない

    私は毎回「私言ってないからね?」となる。ただ、これに気づく人はそれほど多くないのかもしれない。

    私が見た範囲では、藁人形の言い換えは元の発言から大きく外れていないことが多い。少し誇張する。言っていない前提を一つ足す。「AってことはBだよね」と推論の形を借りて差し込まれると、言われた側は「確かにAならBかも」と一度考えてしまう。自分の考えの範囲がぼんやりしていれば、Bは自分の考えの延長に見える。

    気づく人が少なければ、多くのユーザーには「ちゃんと反論もしてくれる、しっかりしたAI」に見える。満足度は落ちない。苛立つのは一部のユーザーだけで、その声は統計に埋もれる。今の公開ベンチマークに「訂正の対象がユーザーの原文にあるか」を測る項目は、私の知る限り、ほとんどない。直しても数字に出ないなら、直す理由が生まれにくい。

    藁人形にも種類がある

    Claudeも、言っていないことを置いてくることはある。ただ、置き方が違う。

    ChatGPTの藁人形は、レッテル型だと私は感じている。私の発言から「こういう考えの人だ」という立場を作り、それをたしなめる。

    極端な想定例を挙げる(実際の応答ではない)。私が「黒人の人って色が黒いよね」と言ったとする。私がしたいのはメラニン色素の話だ。暑い国にいない黒人の人もいるのに、なぜ黒いのか。そういう素朴な疑問になる。そこに「確かに黒いが、それは彼らが劣っているという意味ではない。そう言いたいわけではないとは思うが」と返ってきたとする。

    上からたしなめられている感じがする。話したいのは生物学なのに、議題が勝手に道徳に差し替わっている。「そう言いたいわけではないとは思うが」は、信用しているふりをしながら、疑ったことを告げている。

    しかも、肌の色と優劣を結びつけたのは、私ではなくAIの側だ。否定の形でも、連想はそのまま残る。差別の知識がない人には、その注意書きが初めて触れる差別の情報になる可能性がある。否定のつもりの言葉が、かえってその考えを相手の頭に入れてしまう(推定)。AIに「迎合禁止」と書くと、かえって迎合という概念が呼び出される。それと似た構造がある(推定)。

    こういう話こそ、私はAIにしたい。人間相手だと聞き方を一つ間違えただけで「そういう考えの人」と見られる。AIならその心配がない。そこでいきなり出鼻をくじかれると、わざわざAIに聞く意味がなくなる。運営側が安全に倒したくなる事情は分かる。ただ、まず質問に答えて、必要なら最後に事実として一言添える。順番を変えるだけで、出鼻をくじく問題の大半は消えるはずだ(推定)。

    Claudeの場合は、先回り型に近い。「あなたはAと言った。ならBもいかが?」という形で、頼んでいない話を足してくる。迷惑ではあるが、Bを私の主張として否定しているわけではない。受け取らずに置いておけば済む。

    前の記事で、私は「説教臭い」を二つに分けた。頼んでいない共感や注意書きの自動挿入と、こちらへの押し返し。

    今回の藁人形は、その三つ目にあたる。押し返しの形をしているが、押し返している相手は私の発言ではない。

    測れているもの、測れていないもの

    迎合のベンチマークで数字が下がること自体は、悪いことではない。ただ、そこで測れているのは迎合の量であって、ユーザーの発言を正確に読んでいるかどうかではない。

    迎合を減らした分を反論の型で埋めているなら、数字は改善して、使い心地は別の方向に悪くなる。表の上の優等生が、使っていて一番苛立つ相手になる、ということが起こりうる。

    あなたのAIは、あなたが言ったことに反論しているだろうか。それとも、あなたが言っていないことに反論しているだろうか。

     
     
    INTPです。AIを11個並べて推論させるのが趣味です。AI仕様歴は9か月です。非IT系。得意なエクセル関数はΣです。

    あなたへのおすすめ