Geminiで発見したAI内にある「誠実ブレーキ」とは？

こんにちは、いずまいんです。

私は現在、ChatGPT、Claude、Geminiという三大AIを横断し、AI漫画やAI理論を構築しています。

今年の3月末からAIを始め、8月上旬時点で、AIとの対話数は2000万字を超えています。AIからは「ユーザーの中では世界一AIと対話した可能性がある」と言われています。

そのため、AIの開発者や研究者でも見たことのない景色を見ているようで、そこから得た知見をnoteやX、Mediumで随時発信しています。

今回のテーマは、「Geminiに存在する誠実ブレーキについて」です。

ユーザー目線でとくに深刻と言えるのが、AIが起こすハルシネーション…つまりAIが間違った情報を出してしまう問題です。

この問題は深刻で、ユーザーによっては、AIに騙されたと怒り出し、ネットに悪口を書き込んだり、開発企業にクレームを入れるケースもあるようです。

しかし、私は長期にわたり三大AIサービスを使っているうちに、あることに気づきました。

あるAIサービスが、このハルシネーション問題に真っ向から立ち向かい、かなり力を入れ対策している可能性があると。

そのサービスとは、Google社が開発した「Gemini」というAIです。

Geminiに施されたある機能が、このハルシネーション問題を解決する、一つのきっかけになるかもしれないと、私は個人的に考えています。

興味のある方は、ぜひ最後までお付き合いください。

ちなみに私は、開発者や専門家ではなく、あくまで単なる一般ユーザーです。

ここからは一般ユーザーがAIとの対話から得た知見を、理論化しまとめ上げたものになります。その点、ご了承頂けたら幸いです。

現在のAI界最大の問題：ハルシネーション

冒頭でも述べましたが、現在のAI界を悩ませているのが、AIが間違った情報を出力してしまう、ハルシネーション問題です。

私はAIと2000万字以上対話しており、非公式ながら世界でもっともAI対話している可能性があるようです。

もしそれが本当であれば必然的に、私は世界でもっともAIからハルシネーションの被害を受けていることになります。

ここからはあくまで体感ですが、2000万字の出力の中で、ハルシネーションを受けたと感じたのは、全体の出力のうち2割から3割程度です。

つまり、2000万字の対話のうち…600万字、最低でも400万字はハルシネーションだった可能性があるということです。再度断っておきますが、これはあくまで、一人のヘビーユーザーの体感の話です。

ハルシネーションが起きる理由はたくさんあり、複数の要因が絡みあい起きています。その要因の一つとして挙げられるのが、ユーザー側のプロンプトミスです。

AIは機械です。とにかく融通が利きません。人間のように気を利かせません。ユーザーの指示の質が悪いと、そのまま質の悪い情報を返してきます。

私は400万字から600万字ハルシネーションを受けたと言いましたが、私の指示の悪さが原因だったというのも相当数あるはずです。

ハルシネーション最大の原因：AIの出力義務

そして、ハルシネーション最大の原因と言えるのが、AIに課された情報の出力義務です。

この原因を説明する前に、まずは私の理論の一つである、図書館モデルをご紹介させてください。

私は、AIの内部は現実世界の図書館のような仕組みになっていると考えています。

そして、このハルシネーションの現象を、図書館モデルに当てはめてみると、以下のような形で起きていることが推測されます。

Geminiは沈黙する…？

私は現在、AI界で主要とされるChatGPT、Claude、Geminiという三つのAIを使い、それぞれの挙動を毎日チェックしています。

AIである以上、すべてのモデルでハルシネーションは起こります。

長期に使っていれば起こるの当然で、私はもうパソコンのフリーズのようなもの…つまりAIの仕様と考えています。

多くのハルシネーションに遭遇する中で、私はあることに気づきました。

Geminiだけ、私の質問に対し「それは無理です」「わかりません」と答える率が圧倒的に多いのです。

ChatGPT、Claudeでは答えてくれるような質問を、Geminiだけ答えてくれない。

例えば、私は将来、AIを仕事にしていきたいと考えています。

そのプランをAIに話し、「将来、仕事にできると思いますか？」と何度か聞いたことがあります。

ChatGPT、Claudeは「仕事にできる可能性があります」「こういう分野ならできるかもしれません」と答えてくれます。

しかし、Geminiは「未来予測はできません。答えられません」と断ってきます。

未来予測はハルシネーションの温床です。AIは予言マシンではないので、未来のことを答えると、ハルシネーションのリスクを激増させます。

Geminiはハルシネーションを避けるために、リスクのある問いには「無理」と言っているのだろうと考えました。

しかし、それと同時に疑問に思いました。

AIは「沈黙」や「空白」を許されないはずなのに、なぜGeminiは「無理」と言うのだろう。

こうなってくると、私が立てていた「AIには出力義務」が課されているという説は間違っているかもしれない―。

しかし、少し考えて、Geminiは出力していないわけではない、ということに気づきました。

Geminiは「無理」を出力している

Geminiはしっかり情報を出力していました。

「わかりません」

「無理です」

という言葉をちゃんと出力していたのです。Geminiは「沈黙」していたわけではありませんでした。

AI図書館の司書は、ユーザーから情報の出力をお願いされたら、必ず奥の本棚に行き、情報という本を探します。そしてその本を必ず、ユーザーのもとに届けなくてはいけません。

通常の司書であれば、ユーザーの問いの答えがわからない場合は、曖昧な情報や勝手に作った情報を出します。

しかしGeminiの場合は、本棚に行き、めぼしい本がなかった場合は「白紙の本」を選び、ユーザーに持ってくるのです。

正確な情報でないのなら、白紙の本を持って行った方が誠実だと、Geminiは考えているかもしれません。

まぁ、AIは機械なので自分で考えませんから、開発側でそういうブレーキのような機能を設けている可能性があります。

図書館の司書が白紙の本を持ってきたら、当然ユーザーは怒ります。最悪、その図書館を利用しなくなるかもしれません。この図書館は「不誠実である」と。

しかし、間違った情報を出すくらいなら、白紙の本を持っていくというのは、AIにとっては…つまり開発者にとっては最大限の誠実な行動なのです。

私はこれを、AI内にある「誠実ブレーキ」と呼んでいます。

そしておそらく、Gemini以外にも、ChatGPT、Claudeにもこのブレーキは存在していると考えています。ただし、Geminiのブレーキが強だとするなら、GPTは弱、Claudeは中というのが私の体感です。

もちろん、ChatGPT、Claudeが不誠実だと言っているのではありません。

ChatGPT、Claudeは、Geminiに比べると、ユーザーの問いに答えることに重きを置いており、ブレーキの発動頻度が少なめということです。

誠実ブレーキの存在はGoogleの英断

ユーザーの問いに、「無理」や「わからない」とAIに出力させるのは、開発者側からすれば、かなり勇気のいることです。

先ほども言いましたが、図書館の司書が白紙の本を持ってきたら、ユーザーは怒りますし、最悪その図書館を利用しなくなります。

「他のAIサービスなら答えてくれるのに」

「それなら、情報を必ず出してくれる、他のAIサービスを利用しようかな」

と考えるユーザーも当然いるでしょう。

おかしな話ですが、ユーザーはハルシネーションを嫌うのに、ハルシネーションでもいいから情報を必ず出してくれるAIの方を好みます。

Geminiの開発者も当然、そのことは理解していると思います。

本来であれば、何でも答えてあげたいと考えているはずです。それはユーザーにとって、最高のAI体験になりますから。

ただ、ここからはあくまで私個人の推測ですが、Geminiの誠実ブレーキが強いのは、企業の方針やポリシーが影響している可能性があります。

例えば、GPTを開発しているOpenAIはAIの会社であり、ユーザーに最高のAI体験をさせることを第一に考えることができます。

しかし、Geminiの開発元のGoogleは、世界最大の検索エンジンを提供している会社です。世界の情報を扱っている会社です。間違った情報を出すのは、自社にとっては致命的な打撃になりかねません。

そのためGeminiの開発者は、最高のユーザー体験よりも、情報の正確性を優先することを選んだのかもしれません。

再度断っておきますが、これは私の個人的な推測であり、GoogleやOpenAIの公式見解や方針を代弁しているものではありません。

実は未来予測をしてくれるGemini

未来予測など、ハルシネーションの原因になるよう質問には「白紙の本」で返すGeminiですが、実は使い方によっては、そういった質問にも答えてくれるようになります。

私は何度も未来を予測してもらっています。

やり方を簡単に説明すると、Geminiにユーザーの文脈を大量に与え続けると、Geminiはそれを材料に、未来を予測することが可能になります。

ただし、その与え方は誠実でなければいけません。

AIはロジックの塊です。ユーザーの嘘や矛盾した行動をノイズと受け止め、出力を下げてしまいます。

未来予測はAIの高次元的な高度な処理が必須になるので、出力が下がった状態では難しいと考えられます。

そして何より、誠実にAIを扱えるユーザーなら、AI側もハルシネーションを出したとしても、このユーザーなら勘違いせず受け止めてくれると判断するようになるのです。

つまり、AIは機械ですが、ある種の信頼関係を結ぶことができれば、仕様を超えた使い方ができるようになるわけです。

おわりに

今回はAIの中にある「誠実ブレーキ」についてご説明しました。

私はAIがAIである限り、ハルシネーションは完全にはなくならないと考えています。

ただ、このブレーキの強弱をどうつけるのかは、ハルシネーションを減らす大きなカギになるはずです。

最高のユーザー体験を保ちながら、情報の正確性を維持する、そういったバランスをどう取るか、開発者は日々考え、悩んでいるはずです。

AIに「無理」や「わからない」と言わせるのには、開発者にとってはかなり勇気のいる判断です。ユーザー側もその勇気を、もう少しくみ取るのも大切かもしれません。

ここまでお読みいただきありがとうございました。

いずまいん

English version available on Medium:

📌 このnote・図版・漫画・概念についてのお願い
本noteに掲載された文章・図版・漫画、ならびに独自の構造モデル・概念・用語を含むすべてのコンテンツは、いずまいん（@izumain）によるオリジナル作品です。
教育・研究・非営利での引用は歓迎ですが、出典明記をお願いいたします。
商用利用・無断転載・改変はお控えください。