
AIが"存在しない判例"をでっち上げた話 ──「答えの根拠」が見えるAI検索という発想
『Perplexity 最強のAI検索術』池田朋弘(芸術新聞社, 2024)
2023年、アメリカのある弁護士が、裁判の準備でAIに判例を調べさせました。ChatGPTが挙げてきた判例を、そのまま裁判所に提出した——ところが、その判例は実在しないものでした。AIが、もっともらしい"偽の判例"を作り出していたのです。弁護士は制裁を受け、このニュースは世界中に広まりました。
笑い話では済みません。AIは、知らないことでも自信たっぷりに、それらしい答えを返してきます。これを「ハルシネーション(幻覚)」と呼びます。便利だからこそ、根拠を確かめずに信じると、足をすくわれる。
この弱点に正面から答えるのが、本書のテーマであるAI検索ツール「Perplexity」です。カギは、答えに必ず「根拠(ソース)」をつけてくれる、という一点にあります。この記事を読み終える頃には、AIに根拠を確かめながら付き合うコツを、持ち帰っていただけるはずです。
1. 本書と「回答エンジン」という発想
著者は、起業家でAIコンサルタントの池田朋弘さんです。Perplexityは、著者いわく「回答エンジン」。従来の検索エンジンがリンクの一覧を並べるだけだったのに対し、Perplexityはユーザーが求める「答え」を直接つくって見せてくれます。しかも、リアルタイムでWebを検索するので、情報が新しい。
2. AIが"もっともらしい嘘"をつくとき
冒頭の弁護士の失敗は、AIの最大の弱点をあらわにしました。ChatGPTのような生成AIは、事前に学んだ知識から文章を組み立てるため、知らないことを聞かれても「それらしい答え」を作ってしまうことがあります。しかも、どこから来た情報なのかが示されないので、受け取った側は真偽を確かめようがありません。
本書は、この「最新情報の不足」と「根拠の不透明さ」こそが、ビジネスでAIを使うときの最大のリスクだと指摘します。
3. 根拠(ソース)が見える、という安心
Perplexityの答えには、参照元のURLが必ずついています。回答の文中に番号が振られ、クリックすれば「この部分は、ここに書いてあった」と元の情報に飛べる。つまり、AIの答えを鵜呑みにするのではなく、自分の目で裏を取れるのです。
あの弁護士が使っていたのが、こうした根拠の見える道具だったら。あるいは、出てきた判例のリンクを一つでも開いて確かめていたら。悲劇は防げたはずです。「ソースが見える」というだけのことが、実務ではこれほど大きな意味を持ちます。
4. 広く探すプロ検索、絞り込むフォーカス
本書は、Perplexityを使いこなす機能も丁寧に紹介します。
一つが「プロ検索」。複雑な問いを、AIが自分で小さなテーマに分解し、何段階も検索を重ねて深い答えをまとめてくれる、いわば"調べものの代行者"です。もう一つが「フォーカス機能」。検索範囲を「学術論文だけ」「YouTubeだけ」などに絞り込めるので、信頼できる情報源に限って調べられます。やみくもに探すのではなく、何をどこで調べるかをこちらから組み立てる。これが本書の言う「AI検索術」です。
5. AIに丸投げしない ──「選ぶ・編集する」のは人間
便利なツールですが、本書は最後まで「AIに丸投げするな」と繰り返します。Perplexityが集めてくれるのは、あくまで材料です。その中から何を使い、どう組み立てるかを決めるのは人間の仕事。著者は、AI時代に人間に求められる力として「選ぶ力」「編集する力」を挙げます。
そして忘れてはいけないのが、ソースがあるからといって、その情報が常に正しいとは限らないこと。参照元そのものが間違っていることもあります。だからこそ、最後は人が確かめ、選ぶ。この一手間が、AIを安全に使う人と、冒頭の弁護士のように足をすくわれる人を分けるのです。
6. 東洋の知恵とも響き合う ──「格物致知」
深く調べ尽くして、本当の理解に至る。この本書の姿勢は、東洋の古典にも通じます。四書の一つ『大学』にある「格物致知」——物事の道理をとことん究めることで、知に至る、という教えです。
表面的な答えで満足せず、根拠までたどって確かめる。Perplexityという新しい道具が目指しているのは、まさにこの「格物致知」の現代版なのだと思います。道具は変わっても、深く調べる者が深く理解するという原則は、変わりません。
7. 【体験談】試験勉強で、判例をAIに聞いていた話
根拠の見えるAI検索の価値を、私は資格試験の勉強で実感しました。
私は行政書士試験に挑戦していたとき、憲法の判例学習にPerplexityのような検索性の高いAIを使っていました。判例名や判決の日付を入力し、「この判例の背景と要旨は?」と尋ねる。すると、事案の概要と判断のポイントが整理されて出てきて、しかも参照元で確かめられる。背景をストーリーとして頭に入れられたおかげで、理解のスピードが格段に上がりました。
もちろん、テキストでの体系的な学習が土台です。AIはあくまで補助。けれど、根拠をたどれる検索を使ったからこそ、安心して頼ることができました。もし根拠の見えない道具で判例を"丸暗記"していたら、冒頭の弁護士のように、間違った知識を信じ込んでいたかもしれません。
8. まとめ ──答えをもらう人から、根拠を確かめる人へ
本書を読み終えて、私は自分の調べものの仕方を振り返りました。AIの答えを、根拠も見ずに鵜呑みにしていないか。便利さに甘えて、確かめる手間を省いていないか。そして、集めた情報を「選ぶ・編集する」という、人間にしかできない仕事を手放していないか。
情報があふれ、AIが何でも答えてくれる時代だからこそ、「その答えの根拠は?」と問える人が強い。答えをもらうだけの人から、根拠を確かめる人へ。『Perplexity 最強のAI検索術』は、その一歩を具体的な道具とともに示してくれる一冊でした。
📚 本記事で参照した本・事例
『Perplexity 最強のAI検索術』池田朋弘(芸術新聞社, 2024)
『大学』(格物致知・物事を究めて知に至る)
※ 「AIが存在しない判例を生成し、弁護士が制裁を受けた」のは2023年に米国で広く報じられた実際の裁判(Mata v. Avianca)の事例。AIツールの機能・仕様は更新が速いため、最新情報は公式でご確認ください。本記事は活用の考え方を紹介するもので、特定ツールの利用を勧めるものではありません。