
AIの部屋はまだ暗い。── 見えている内部と、わからない中身
AIに何かを聞く。
すると最近は、回答の前に、
AIが考えたり調べたりしている途中の表示が段階的に出てくる。
「今、私はあなたのリクエストをこう分析し、こういう順番で答えに近づいています」
と言わんばかりの、あの丁寧なプロセス表示だ。
それを見ていると、ちゃんと手順を踏んで答えにたどり着いたのだな、と感じる。
そのせいで、回答自体まで少しもっともらしく見えてしまう。
この「わかった気がする」は、今のAIの大きな変化の一つかもしれない。
以前にも増して、途中経過を見せる設計に寄ってきている。
そこで見えているものを、そのまま内側の窓だと思うのは少し早い
前回の『AIがやさしすぎて、少し気味が悪い』でも少し触れたように、この話は感覚だけの話じゃない。
ChatGPTを作るOpenAIや、Claudeを作るAnthropicの最近の研究を見ていると、ユーザーに見えている途中表示よりもっと深いところまで踏み込んでも、そこにある「思考」をそのまま信じていいのかは、まだかなり怪しい。
中が見える窓はあるのに、ところどころまだぼやけて見える。
研究で内部をのぞけばのぞくほど、細かい手がかりはむしろ増えてくる
しかも、私たちがふつう思い浮かべるような、ひと続きの考えの流れがそのまま見えてくるわけではない。
細かいものは見えてくるのに、それがどうつながっているのかは、かえって掴みにくくなる。
(内部では概念に対応する features や circuits は拾えても、それが最終出力までどうつながるかは、まだ一部しか見えていない。)
中に入るほど、話がすっきりするというより、わからない点が増えてくる感じ。
ここが、いまのAIの少し扱いにくいところなのだと思う。
表面では、人間との距離が縮んだように感じる。
説明は自然になるし、途中の迷いや手順まで見える。
前より、ずっと人格があるように見えてくる。それが錯覚だとしても。
人間には読み直しの足場がある
人間同士のコミュニケーションだって、
結局は外に出てきた言葉やふるまいを読んでいる部分が大きい。
その人の内側はよく見えない。
その意味では、AIだけが特別に「中が見えない」わけでもない。
それでも、人間にはまだ別のつながりがあるわけで。
身体があり、生活史があり、立場があり、言葉のあとに責任が残る。
だから説明が少し怪しくても、その人の過去や役割に照らして読み直したり、問い返したり、補強したりする余地がある。
AIには、その足場がまだかなり薄い。
その言葉を誰の履歴に結びつければいいのか、どこまでその発言の重みを受け取っていいのかは、まだ曖昧なままだ。
人間のように見えるのに、人間としては読み切れない
問題なのは、このズレのほう。
AIは、以前よりずっと人間に近い。
話し方も自然だし、手順まで見せる。
なのに、その相手を人間相手のようにはまだ読めない。
だから、距離感が難しくなる。
AIはこれからもっと、人間っぽい振る舞いをするようになるかもしれない。
その変化自体は悪くない。
見える手がかりが増えることには、実際に利点もある。
ただ、そうやって表面が人間に近づくことが、
そのまま透明さにつながるわけではない。
むしろ逆に、こちらがAIを「人間的なもの」として読まずにいられないのに、その中はまだ同じようには読めない。
今後やっかいになるのは、そのねじれなのだろう。
そして、私が立ち止まっているのも、結局そこなのだろう。
シリーズ【AI猫かぶり現象】
#2 AIの部屋はまだ暗い。見えている内部と、わからない中身
参考
OpenAI, Detecting misbehavior in frontier reasoning models
OpenAI, Evaluating chain-of-thought monitorability
Anthropic, Reasoning models don't always say what they think
Anthropic, Tracing the thoughts of a large language model
次の記事