メインコンテンツへスキップ
見出し画像

AIの部屋はまだ暗い。── 見えている内部と、わからない中身

    AIに何かを聞く。
    すると最近は、回答の前に、
    AIが考えたり調べたりしている途中の表示が段階的に出てくる。

    「今、私はあなたのリクエストをこう分析し、こういう順番で答えに近づいています」

    と言わんばかりの、あの丁寧なプロセス表示だ。
    それを見ていると、ちゃんと手順を踏んで答えにたどり着いたのだな、と感じる。
    そのせいで、回答自体まで少しもっともらしく見えてしまう。

    この「わかった気がする」は、今のAIの大きな変化の一つかもしれない。
    以前にも増して、途中経過を見せる設計に寄ってきている。

    そこで見えているものを、そのまま内側の窓だと思うのは少し早い


    前回の『AIがやさしすぎて、少し気味が悪い』でも少し触れたように、この話は感覚だけの話じゃない。

    ChatGPTを作るOpenAIや、Claudeを作るAnthropicの最近の研究を見ていると、ユーザーに見えている途中表示よりもっと深いところまで踏み込んでも、そこにある「思考」をそのまま信じていいのかは、まだかなり怪しい。

    中が見える窓はあるのに、ところどころまだぼやけて見える。

    研究で内部をのぞけばのぞくほど、細かい手がかりはむしろ増えてくる


    しかも、私たちがふつう思い浮かべるような、ひと続きの考えの流れがそのまま見えてくるわけではない。

    細かいものは見えてくるのに、それがどうつながっているのかは、かえって掴みにくくなる。
    (内部では概念に対応する features や circuits は拾えても、それが最終出力までどうつながるかは、まだ一部しか見えていない。)

    中に入るほど、話がすっきりするというより、わからない点が増えてくる感じ。

    ここが、いまのAIの少し扱いにくいところなのだと思う。

    表面では、人間との距離が縮んだように感じる。
    説明は自然になるし、途中の迷いや手順まで見える。
    前より、ずっと人格があるように見えてくる。それが錯覚だとしても。

    人間には読み直しの足場がある


    人間同士のコミュニケーションだって、
    結局は外に出てきた言葉やふるまいを読んでいる部分が大きい。
    その人の内側はよく見えない。
    その意味では、AIだけが特別に「中が見えない」わけでもない。

    それでも、人間にはまだ別のつながりがあるわけで。
    身体があり、生活史があり、立場があり、言葉のあとに責任が残る。
    だから説明が少し怪しくても、その人の過去や役割に照らして読み直したり、問い返したり、補強したりする余地がある。

    AIには、その足場がまだかなり薄い。
    その言葉を誰の履歴に結びつければいいのか、どこまでその発言の重みを受け取っていいのかは、まだ曖昧なままだ。

    人間のように見えるのに、人間としては読み切れない


    問題なのは、このズレのほう。

    AIは、以前よりずっと人間に近い。
    話し方も自然だし、手順まで見せる。

    なのに、その相手を人間相手のようにはまだ読めない。
    だから、距離感が難しくなる。

    AIはこれからもっと、人間っぽい振る舞いをするようになるかもしれない。
    その変化自体は悪くない。
    見える手がかりが増えることには、実際に利点もある。

    ただ、そうやって表面が人間に近づくことが、
    そのまま透明さにつながるわけではない。
    むしろ逆に、こちらがAIを「人間的なもの」として読まずにいられないのに、その中はまだ同じようには読めない。

    今後やっかいになるのは、そのねじれなのだろう。
    そして、私が立ち止まっているのも、結局そこなのだろう。



    シリーズ【AI猫かぶり現象】

    #2   AIの部屋はまだ暗い。見えている内部と、わからない中身

    参考

    • OpenAI, Detecting misbehavior in frontier reasoning models

    • OpenAI, Evaluating chain-of-thought monitorability

    • Anthropic, Reasoning models don't always say what they think

    • Anthropic, Tracing the thoughts of a large language model


    次の記事

     
     
    著述業。 AIや言葉まわりの、少し気になる違和感を拾って書いています。 礼賛でも脅威論でもなく、使っているときの手触りから考える場所です。 技術や性能の変化も気にしながら、記事ではその結果として表に出てくる違和感や、そこに人が何を感じるのかを書いています。

    あなたへのおすすめ