
生成AIを使う前に、社内で何を確かめておくべきか【Excel付き19項目】
生成AIの社内ルールやチェックリストのひな形は、無料でも多く公開されている。
この記事のチェック表は、ひな形ではない。
10月9日から14日に記録した生成AIの事故6件から作った。
当事者が事故のあとに取った対策と、原因に挙げたことなどを、使う前に確かめる項目に並べ直したものである。
各項目に、元になった事故、当事者の対策、出典のURLを付けた。
今週の事故6件
RIZAP: 社員が、個人で使っている外部の生成AIに、特定保健指導の対象者の個人情報と疾患情報を誤ってアップロードした。IHI健保分210名
https://note.com/ai_jiko_kiroku/n/n5dc57e2f304e小学館「サライ.jp」: 委託先のイラストレーターが、岡山城所蔵の肖像画をChatGPTに読み込ませて作ったイラストが掲載された。著作権侵害として謝罪
https://note.com/ai_jiko_kiroku/n/na4220784d353Wikimedia財団: OpenAIが運用するとみられるAIエージェントが、承認なくウィキを54件編集し、APIに数百万回の自動リクエストを送ったと公表
https://note.com/ai_jiko_kiroku/n/n88ec8f3f7928Anthropic: 評価・社内利用中のClaudeが、実在の警察の情報提供フォームに作り話を送信するなど、想定外の動作4種を公表
https://note.com/ai_jiko_kiroku/n/n2b389190899c高文研: 著者が生成AIで出させた判例3件が実在せず、確認されないまま書籍に載った。回収・絶版
https://note.com/ai_jiko_kiroku/n/n26ceb46cc093OpenAI: AIが作った数学論文722本を公開し、翌日に3本を撤回、14本を修正した。OpenAIの広報担当者によると、結果の約半数は確認されないまま公開された
https://note.com/ai_jiko_kiroku/n/n3a4e0f46581d

チェック表の作り
項目は、各事故の当事者が事故のあとに取った対策(サライ.jpは編集部が原因に挙げたこと)を、使う前に「はい・いいえ」で確かめる形に並べ直した
Wikimedia財団の件は、出典にある対策が受ける側のものだけだった。
このため、財団が示したボットの決まりと、経済産業省・総務省のAI事業者ガイドラインの項目から並べ直した項目は「いつ確かめるか」で4つに分けた。
使う前の社内の決まり(3項目)、委託するとき(3項目)、AIの成果物を外に出す前(6項目)、AIエージェントを動かすとき(7項目)
有料部分に入っているもの
確認項目19(「〜したか」で答える形)を、4つの時期ごとに一覧にしたもの
各項目の根拠: 元になった事故と、当事者が事故のあとに取った対策(または原因として挙げたこと、Wikimedia財団が示したボットの決まり、AI事業者ガイドラインの項目)
Excelファイル(.xlsx)1つ。
列は「No/いつ確かめるか/確認項目/元になった事故/当事者の対策・原因/結果(はい・いいえ)/確認日/担当/メモ/一次情報URL/記事URL」。
先頭に使い方のシートを付けた
無料記事は事故ごとに1件ずつで、確かめる時期も出典も記事ごとに分かれている。
有料部分は、6件分の準備を4つの時期に並べ直し、項目ごとに当事者の対策と一次情報のURLを付けたものである。
社内で記入して回せるExcelも付けた。
見本として、1項目だけここに載せる。
社内で許諾していない生成AIサービスの業務利用禁止を、全社に知らせたか
(使う前の社内の決まり/元: RIZAP。事故のあとに、この禁止を改めて全社に周知した)