メインコンテンツへスキップ
見出し画像

生成AIにURLを渡して調べた判例3件は実在しなかった。なぜ確認されないまま本に載ったのか|高文研の書籍回収・絶版と、AIで調べた内容を資料に使う前に確かめること

    生成AIで検索した国際裁判の判例3件が実在せず、その判例を載せた書籍が回収・絶版になった。
    出版社の高文研は2026年9月24日に回収・絶版を告知し、10月10日には著者による経緯の説明を追記した。
    著者は、データベースのURLを生成AIに渡して事例を出すよう指示し、出てきた判例をそのデータベースのものだと思い込んだと説明している。生成AIで調べた内容を資料に使う前に何を確かめるかを、公表文から整理する。

    何が起きたか

    画像
    • 対象は、高文研が2026年9月に刊行した書籍『無責任の体系と沖縄戦』である

    • 本書147〜149頁の「5.沖縄戦におけるスパイ容疑住民虐殺に関する国際裁判の判例」に挙げられた判例①②③が、実在しないものだった

    • 著者は、この点を指摘した人への感謝を公表文に書いている

    • 高文研は著者と協議して、本書を絶版にし、回収することにした。個人の購入者には返金し、書店・図書館には返品を求めている

    • 公表文には、使った生成AIサービスの名前は書かれていない

    出典

    AIに渡したURLと、出てきた判例の関係

    著者は、判例を探した手順を次のように説明している。

    「これは、スタンフォード大学図書館バーチャル判例集国際犯罪裁判記録というデータベースのURLを、私が生成AIの中に入れ込んで、このデータベースから沖縄における日本軍による住民殺害の事例を出すように指示して、出てきた英文判例を、データベースからを引き出してきたものだと思い込み、採用してしまったため生じたものです。」

    生成AIにデータベースのURLを渡し、そのデータベースから事例を出すよう指示しても、出てきた判例はそのデータベースにあるものではなかった。高文研の告知も、原因を、著者がAIを用いて検索し、出てきた結果を精査せず採用したことだとしている。

    授業資料から書籍へ、確認されないまま使われた

    判例は、最初は大学の授業資料の作成に用いたものだった。著者は次のように書いている。

    「当初は授業資料の作成にあたって用いましたが、それをその後、確認・精査することなく著作にまで用いてしまいました。」

    判例が載っていたのは、本書の第3章末尾にある授業配布資料の部分である。授業資料として受講生に配られたあと、確認されないまま書籍に載った。

    同じことが起きる使い方

    公表文にある条件を、会社の業務に置き換えると次の2つになる。

    • 特定のサイトやデータベースのURLを生成AIに渡して、そこから事例を出すよう指示し、出てきた内容をそのサイトから引き出したものだと思い込んで資料に載せる

    • 社内向けの資料に使ったAIの出力を、確認・精査することなく、社外に出す資料や出版物にまで使う

    画像

    要因と対策、事故前に必要だった準備

    要因

    • データベースのURLを生成AIに渡して事例を出すよう指示し、出てきた英文判例をデータベースから引き出したものだと思い込んで採用した

    • 授業資料に使ったAIの出力を、確認・精査することなく書籍にまで用いた

    対策(事故のあとに著者と高文研が取ったもの)

    • 著者は、他の記述でもAIを用いた箇所に誤りがないか精査し、誤りが分かったものは公表するとした

    • 著者は、受講生(卒業生を含む)に瑕疵と謝罪をメールで知らせるよう学部に依頼した

    • 高文研は、編集時の確認作業を徹底するとした。10月10日の追記では次のように書いている

    「このようなことを二度と起こさないよう、AIを使用した原稿はもちろんのこと、それに限らない校正・校閲の徹底をはかる所存です。」

    事故前に必要だった準備
    出典で事故のあとに加えられた対策を、使う前の準備として並べ直した。

    • 生成AIの出力を資料に使う前に、AIを用いた箇所に誤りがないかを精査する

    • AIを使用した原稿を外に出す前に、校正・校閲で確認する

    生成AIで調べた内容を資料に使う組織が、使う前にそろえるものはこの2つである。

    #生成AI #AI #ハルシネーション #ファクトチェック #AI活用

     
     
    生成AIを使え・導入しろと言われた担当者と経営者へ。実際に起きた生成AIの事故・情報漏えい・規約変更を、1件ずつ記事にしている(10月から15件)。各記事で、何が起きたか、なぜ起きたか、自分の会社で使う前に決めることまで。出典のURL付き。

    あなたへのおすすめ