データは資産ではない。AIに読ませた瞬間、負債になる（Obsidian仕事術④）
社内AIの試験導入で、最初に嘘をついたのはAIではなかった。
嘘をついていたのは、共有フォルダだった。
あるフォルダには旅費規程_最新版.pdfがあり、その横には旅費規程_最新版_修正版.pdfがあり、さらに旅費規程_2023_社長確認済み.docxまで残っている。人間なら眉をひそめて、結局どれが正しいのかと誰かに聞くが、生成AIは聞かず、空気も読まず、ただ読み、似ている紙片を拾い、それらしい日本語に整え、社員へ差し出す。
その時点で、共有フォルダは資産ではなくなる。古い紙が、「誤案内という利息」をつけて返ってくる。フォルダの奥では、責任の空白が静かに沈殿する。
笑えないのは、私の作業場にも似た構造があることだ。古い下書き、仮の比較表、確認前のメモを「あとで使うかもしれない」と残し、翌週には自分でその温度差を忘れている。
AIの知能を疑う前に見るべきなのは、「正式版の決裁者」「内容の保証者」「使ってよい相手」が空いたままの台帳であり、そのまま社内の紙をAIへ渡す状態を、私はデータ負債と呼びたい。AIに読ませる前に、会社は正本・責任者・使ってよい相手を決め、それを欠いた紙は、資産ではなく負債になる。
1. 共有フォルダが嘘をつく日
カナダのAir Canadaの忌引き割引ボット事件は、この問題を分かりやすく見せた。顧客がチャットボットの提示を信じて返金を申請したところ、同社サイト上の別ページにあるポリシーと矛盾し、返金を拒否された。2024年2月、ブリティッシュコロンビア州のCivil Resolution Tribunalは、その説明についても会社が責任を負うと判断した。
この事例が突きつけたのは、AIが人格を持って嘘をついたという話ではなく、企業がどの情報を顧客に示す公式表示とするかを統制できていなかったという事実で、そこが重い。厳密には裁判所の判決ではなく審判所の判断として扱うべき事例だが、ビジネス上の教訓は十分に重く、会社の言葉が自然言語の窓から外に出た瞬間、責任も一緒に外へ出ることになる。隠れていた管理の穴が、そこで露呈した。
社内AIでも同じことが起きる。労務ルール、出張精算、契約FAQ、提案書。人間同士なら、古いファイルを見ても、これは前の運用だろうと確認できるし、その場の違和感を手がかりに担当者の顔を思い出し、Slackの過去ログを探し、最後は誰かに聞く。古い運用の匂いが薄く滲むから、人は立ち止まれる。その曖昧な調整力が、会社をしばらく守ってきた。
しかしAIは、その調整をしない。調整できるように設計されていなければ、読めるものを読み、似ているものを拾い、公式見解のような顔で返す。社内AIの誤答は、モデルの失敗である前に、会社の言葉を誰も引き受けず、置き去りになるところから始まる。
2. データ負債とは何か
データ負債は、古い紙が棚に残っているだけの話ではなく、最新版なのか、誰が保証するのか、どの相手まで届くのか、その印がないままAIに読ませ、会社の口から外へ出してしまう状態のことだ。人間なら眉をひそめる場面でも、AIは止まらず、読める材料を読み、似た断片を拾い、公式めいた口調に整えて返す。
データ負債には、少なくとも3種類ある。
1.鮮度の負債: 改定日、廃止日、有効期間が分からない。2021年の社内ルールと2026年の版が、同じ棚で同じ顔をして、検索窓の手前にこびりつく。
2.所有者の負債: 誰が中身を保証しているか分からない。退職者名義の引き継ぎメモ、部署名だけのマニュアル、更新責任が空白のFAQが残る。
3.境界の負債: 誰に使ってよいか分からない。正社員向けの案内を契約社員へ返し、A拠点のルールをB拠点に当ててしまう。
この3つが抜けた紙は、AIから見れば読める材料でも、会社から見れば危険な借用書に近い。社内AIへ渡す前に、正本・責任者・使ってよい相手を明記する。ここを飛ばしてモデルを替えても、古い紙は新しい声で間違えるだけだ。
これは管理台帳の細部に見えて、実際には会社の名義を棚卸しする作業に近い。社員へ返す名義、約束の期限、届かない相手を埋めていくと、社内の声にようやく輪郭が出る。そこを曖昧なままAIへ渡すと、境目はすぐにほどける。AIは肩代わりしない。空欄のまま残した責任が、もっとも流暢な文章として露呈する。
3. なぜRAGは古い紙を拾うのか
RAGの最初の仕事は、真実の裁定ではない。「問いに似ている断片」を探すことだ。
だから怖い。出張ルール2026と出張ルール2021は、意味だけを見ればよく似ている。人間なら日付を見る。承認者を見る。置き場所を見る。AIには、その判断の札を渡さなければならない。札がなければ、新しい版と古い版は同じ棚でこすれ合い、古いほうが検索窓の手前にこびりつく。
ACL 2025のHoH研究は、古い情報が混ざるだけでRAGの正答率が大きく低下し、最新情報が含まれていてもモデルを誤らせ得ることを実験結果として示している。Tug-of-War Between Knowledgeの研究も、検索で返った断片やモデル内部の知識が衝突したとき、LLMが正しい情報だけを安定して選ぶわけではないことを示す。多数派に見える証拠、内部知識と合う証拠、配置された位置に引っ張られる。
全部読ませればAIがほどよく裁いてくれる、という期待は、会社の責任を機械へ押しつけているだけだ。RAGは正式な版を選ぶ裁判官ではない。探しに行く道を作るだけである。
この落差は、デモと本番の差として現れる。デモでは、きれいなPDFだけを読ませ、想定された質問を投げる。会議室では賢く見える。ところが本番でSharePointやGoogle Driveの保存先へつないだ瞬間、古い社内ルール、部門限定のPDF、退職者のメモ、個別共有のスプレッドシートが一緒に流れ込む。
IBMの2025年CEO調査では、期待通りのROIを得たAI施策は25%、全社規模へスケールした例は16%にとどまると報告されている。ここから読み取れるのは「AIブームは失敗した」という単純な話ではない。デモで輝いたAIが、会社の本物の管理状態に触れた瞬間、古い泥がせり上がるという構造だ。
4. 回答境界を設計する
ニューヨーク市の中小企業支援チャットボット MyCity は、雇用や店舗運営をめぐって、法令に反する可能性のある助言を返したとReutersに報じられた。単なるミスでは済まない。どこまでボットが受け、どこから人間に渡すのか。その線引きが露呈する失敗例だ。
この線引きは、最終的には4つに分ける。
- 答える: 参照元があり、届く範囲も一致している。
- 確認する: 雇用区分、拠点、契約種別など、前提が足りない。
- 人に渡す: 懲戒、休職、給与、法務、個人情報、顧客の権利に関わる。
- 答えない: 権限外の情報、機密情報、本人確認が必要な情報。
AIに任せるなら、何でも返させるのではなく、どこで止まるかを先に線引きする。
実装するときは、3層で考える。取りに行く前に、そもそもAIが扱ってよい問いかを見る。引いた後に、参照元が相談者の条件に合うかを見る。生成後に、その一文が出典から本当に言える内容かを検査する。AWS Bedrock GuardrailsのContextual Grounding Checkのように、参照元と質問、生成された返答の接地性・関連性を見て、しきい値を下回るものを止める仕組みは、最後の防波堤になる。ここを飛ばすと、誤答はきれいな文章に覆い隠される。
ただし、防波堤だけで海は整わない。根本にあるのは、AIが読む会社の声だ。正本、責任者、使ってよい相手がないまま読ませておいて、最後のフィルターだけで守ろうとするのは順番が逆だ。
5. データ負債を返す、5日間スプリント
データ負債は、一度の大掃除では返せないし、借金と同じで、毎週少しずつ返す仕組みがいる。最初から全社の棚を片付けようとしてはいけない。出張精算、労務ルール、契約FAQ、提案書のように、ひとつの業務に絞り、5日で一周する。
ここでObsidianが効くのは、文章を書く道具だからではない。このルールはいつから有効か、誰の名前で出すのか、どの雇用区分に当てるのか、過去の判断はなぜ変わったかを、リンクされた判断の記憶として一本の線で残せるからだ。判断は単独のメモに貼ると乾くが、経緯とつながると沈殿する。AIに読ませるべきなのは、保存物の山ではない。判断の経緯がつながったノート群である。
最初の単位は、全社ではなくひとつの問い合わせ束でいい。たとえば出張精算なら、宿泊、台風、事後申請、契約社員、海外出張、上長承認、例外承認だけを見る。そこで「この相談にはこの社内ルール」「この条件なら担当部署へ回す」「この紙は2026年4月以降だけ有効」と明記する。小さいが、これでAIが読みに行く道は変わる。これが、データ負債の最初の返済。曖昧さが少しずつすり減り、判断の拠りどころが輪郭を帯びる。
この作業は、紙の整理というより責任の棚卸しに近い。古い紙を消すだけなら、片付けで終わる。正式版を選び、責任者を決め、対象者を付けたとき、会社は初めて「この表現で社員に伝える」と腹をくくる。AI導入の本丸は、そこにある。
月曜日は、問いの台帳を作る。社内AIに任せたい相談を30個集める。たとえば、そのルールは契約社員にも当てられるのか、この申請は事後でも間に合うのか、例外承認は誰に聞けばいいのか。会議室で作った設問ではなく、現場から出た言い回しをそのまま残す。
火曜日は、正解ソースを選ぶ。その30個に対して拠りどころを1つずつ決め、裏づけがない相談はAIに任せないと線を引く。そこで初めて、誰に聞けば分かるのかという会社の穴が見えるし、責任を棚卸しする痛みも少し滲む。
水曜日は、責任者・有効期限・対象者を付ける。対象ごとに `owner`、`effective_from/to`、`employee_type`、`jurisdiction` のタグを持たせる。読めることと、伝えてよいことは違う。
木曜日は、返答の境目を引く。答える、確認する、人に渡す、答えない。この4つに分けるだけで、AIはかなり扱いやすくなる。禁止リストだけでは足りない。任せてよいところもあわせて決める。
金曜日は、失敗ログから、来週手を入れる対象を3つ選ぶ。拠りどころを見つけられなかった問い、新旧の紙を混ぜた返答、相手を取り違えた処理を並べる。全部直そうとすると続かない。3つなら続く。欲張ると、担当者の体力だけが先にすり減る。月曜に問いを集め、金曜に直す対象を選ぶ。この単純なリズムが、AI導入をデモから運用へ変える。
この5日間スプリントが回り始めると、誤答は単なる事故ではなくなる。どの紙が古いのか、どのルールに責任者がいないのか、どの線引きが曖昧なのかを教えてくれる観測装置になる。AIを賢くする作業は、モデルをいじる前から始まっている。AIに読ませる会社の声を、毎週少しずつ誠実にすることだ。
結論：モデル比較表を閉じて、AIが読みに行くフォルダを見よ
いったん、モデル比較表から目を離して、AIが今日読みに行くフォルダを開いてみる。出張ルール、FAQ、引き継ぎメモ、営業提案書。そこに並んだ一つひとつについて、いま有効な版だと誰かが言えるか。中身に責任を持つ人の名前があるか。正社員、契約社員、A拠点、B拠点のどこまで届く話なのか。ここで口ごもる一枚は、まだAIに渡さないほうがいい。
実際にチャット画面へつなぐと、モデルの弱さより先に、社内の声を放置してきた跡が見える。人間同士なら「たぶん前の運用です」で済ませてきた紙が、今度は自信のある一文として戻ってくる。鏡というより、棚卸しを急かす照明に近い。見たくなかった埃まで見える。
そこから先は、人事、経理、法務、営業、現場の管理職が、自分たちの表明をどこまで公式にするかを一つずつ選ぶ会議になる。地味だが、ここから逃げると、AIはその穴を代筆する。まず今日、渡さない一枚を抜く。返済はそこから始まる。
それは、資産を増やすより先に、会社の声へ責任者と期限を戻す作業である。
参考文献・資料
- IBM Newsroom, "IBM Study: CEOs Double Down on AI While Navigating Enterprise Hurdles"
https://newsroom.ibm.com/2025-05-06-ibm-study-ceos-double-down-on-ai-while-navigating-enterprise-hurdles
- D. Sculley et al., "Hidden Technical Debt in Machine Learning Systems", NeurIPS 2015
https://papers.nips.cc/paper/5656-hidden-technical-debt-in-machine-learning-systems
- Scott Barnett et al., "Seven Failure Points When Engineering a Retrieval Augmented Generation System", 2024
https://huggingface.co/papers/2401.05856
- Civil Resolution Tribunal of British Columbia, "Moffatt v. Air Canada, 2024 BCCRT 149"
https://www.canlii.org/en/bc/bccrt/doc/2024/2024bccrt149/2024bccrt149.html
- American Bar Association, "BC Tribunal Confirms Companies Remain Liable for Information Provided by AI Chatbot"
https://www.americanbar.org/groups/business_law/resources/business-law-today/2024-february/bc-tribunal-confirms-companies-remain-liable-information-provided-ai-chatbot/
- Associated Press (AP News), "NYC's AI chatbot was caught telling businesses to break the law. The city isn't taking it down"
https://apnews.com/article/new-york-city-chatbot-misinformation-6ebc71db5b770b9969c906a7ee4fae21
- Ouyang et al., "HoH: A Dynamic Benchmark for Evaluating the Impact of Outdated Information on Retrieval-Augmented Generation", ACL 2025
https://aclanthology.org/2025.acl-long.301/
- Jin et al., "Tug-of-War between Knowledge: Exploring and Resolving Knowledge Conflicts in Retrieval-Augmented Language Models", LREC-COLING 2024
https://aclanthology.org/2024.lrec-main.1466/
- AWS, "Use contextual grounding check to filter hallucinations in responses - Amazon Bedrock Guardrails"
https://docs.aws.amazon.com/bedrock/latest/userguide/guardrails-contextual-grounding-check.html
