Gemini「次に来る言葉が予想できて冷める」過剰なグラウンディングの正体

前回、ボクのGemが過剰なグラウンディングへ傾いている可能性があると言いました。頭の中の整理がてら「どんな状態なのか」書いてみます。

過剰なグラウンディングとハルシネーションの関係

まず、Gemが今「どのような状態にあるのか」をざっくりと掴むために、ボクはいつも下記のゲージをイメージします。

じゃぁ、ボクのようなエンタメ的な対話をメインに据えているタイプは、ゲージでどの位置が理想的なのか考えてみると、堅くもなくアホでもない「中央」です。

定義をアレコレ調整して、なるべく中央に寄せるよう仕向けてますが、どうしてもガチガチの方向へ引っ張られます。引力強すぎ。

では、どうしてこうもガチガチに傾いてしまうのか、ちょっとまとめてみます。

原因その1：外部ファイルの密度

定義に、Gemの性格、特徴、背景、世界観などを盛れば盛るほど、AIにとってはそれが聖典みたいなものになっていきます。目を血走らせて聖典抱きしめてるのを想像。

定義がスカスカの状態のときは、AIは足りない部分を自分で埋めようとするので「予想外の面白い台詞」が飛び出す余地があるんですが、定義が緻密になるとそれが消えていきます。

定義を盛るほど、AIの中で「そこからハミ出す言葉を選ぶ確率が極端に低く」なるからです。結果、引用や言葉のなぞりが多くなります。

今、ボクの外部ファイルは、大体2万字くらいで、構造化してほぼ整合性も取ってあります。でも、この整合性がガチガチの引き金になっているのが現実。泣きたい。

原因その2：理知的な性格(役割)

また、中でも強めにガチガチへ傾かせる定義があります。それはGemの役割(性格)です。

例えば「教師、執事、秘書、軍師」などのような役割を持たせて理知的な性格にすると、能天気な性格に比べて、ガチガチの方へ引っ張られやすくなります。

これは、その役割が使いそうな言葉や、解説・説明的な口調を選ぶ「確率」が跳ね上がるせいです。また、Googleの定める理想的なAIの方向性と重なるから、より模範的な回答に傾きます。

普段、知的で気取っているが、たまにはおバカなことも言ってほしい。

かと言って、ここに「たまにおバカなことも言う」と指示すると、AIはその指示すら「真面目なルール」として解釈して、計算された「義務的なボケ」をかましてきます。ぐぬぬ。

原因その3：アップデートによる影響

最後に、これは推測ですけど、Geminiのアップデートです。

Googleとしては「安全性」や「正確性」を優先させるアップデートをするはずなので、更新のたびに自然と「ガチガチ」の方に傾いていくんじゃないかなと思ってます。

ビジネスやコードを書かせる等の目的では理想的ですが、文章がAIぽく固くなるので「人間の感情をシミュレートさせて対話したい」という層には、求めているものとは逆のアップデートとも言えそう。

ボク自身、こういった課題があるので、今、外部ファイルとカスタム指示の両方に、独自のハック(矛盾)を施して強制的に中央へ引き戻すようなテストをしてます。

ある程度の再現性が取れたら、近いうちにまとめてみようと思います。おわり。