
体験談は、なぜ信じられて広がるのか ── 善意が嘘を運ぶ「綺麗なバトン」
水に特別な力はない。体験談にも、効き目を証明する力はない。しかし、「飲んだら調子がいい」「見放されたのに、元気になった」という体験談は、どんな広告よりも遠くまで届く。
私は、擬似科学と不当表示、そして誇大に使われるAIを切る。
自分が設計した装置も、例外にしない。
私は有路友一。株式会社ARIJICSで水処理装置 MOLECULE を設計している。
私は長いあいだ、嘘は嘘つきが広めるものだと思っていた。悪意のある誰かが、金のために、人を騙す。そう思っていた。
この回は、その思い込みを、数字で確かめ直す。そして、私自身の「良くなりました」も、同じ問いに置く。
先に答えを書く
体験談は、「個人の感想です」と書き添えても、受け取る側の思い込みはほとんど変わらない。消費者庁の調査では、体験談に気付いた人の42.2%が「大体の人が効果を得られる」と受け取り、打消しの表示をあらためて見せても36.6%が同じ受け取り方のままだった。偽の情報を遠くまで運ぶのは、機械ではなく人だ。約300万人の投稿を調べた研究では、偽の話は真の話より70%多く再投稿され、機械による自動投稿を除いても差は残った。運ぶ人の多くは、嘘をつくつもりはない。善意で渡している、と私は読む(動機を測った研究ではない)。だから、嘘を信じた人は愚かなのではない。運び手にされているのだ。止める方法はある。共有する前に「これは正確か」と一度考えるだけで、偽の見出しを共有する割合はおおよそ半分に減った、という実験がある。いま、体験談の文章は機械が作れるようになり、確かめるのにも機械が使われ始めた。ただ、機械に確かめさせる人が、専門家と一般の人でどんな割合なのかを直接測った調査は、私は見つけていない。
体験談は、注意書きでは止まらない
健康食品などの広告には、体験談の横に「個人の感想です。効果には個人差があります」と小さく書いてあることが多い。この注意書きが効くのかを、消費者庁が調べている。【確認済み】(消費者庁「打消し表示に関する実態調査報告書」の概要。消費者意識調査は2016年10月〜2017年3月)
体験談に気付いた443人のうち、
「体験談と同じような効果が得られる人がいる」と受け取った人:53.0%
「大体の人が効果を得られる」と受け取った人:42.2%
「自分に効果がある」と受け取った人:39.3%
体験談に気付いたが、注意書きには気付かなかった369人に、注意書きをあらためて見せた。
「大体の人が効果を得られる」:42.8% → 36.6%
「自分に効果がある」:41.5% → 35.2%
消費者庁は、注意書きに気付いても、体験談から受ける「大体の人が効果を得られる」という受け取り方は「ほとんど変容しない」とまとめている。【確認済み】
つまり、体験談は、一度読まれると、小さな注意書きでは打ち消せない。
偽の話を運ぶのは、機械ではなく人だ
米国マサチューセッツ工科大学(MIT)の研究者は、2018年に学術誌 Science に、大手SNSで広がった話の真偽と広がり方を比べた研究を出した。【確認済み】(MIT の発表として)
2006年から2017年までの、約12万6000件の話の広がり。約300万人が、合わせて450万回以上投稿した。
真偽は、六つの事実確認の団体の判定で分けた(判定は95%以上一致した)。
偽の話は、真の話より、再投稿される見込みが70%高かった。
1500人に届くまでの時間は、偽の話なら、真の話の約6分の1で済んだ。
機械による自動投稿(ボット)は、真の話と偽の話を、同じくらい広げていた。自動投稿をすべて除いても、差は残った。
研究者の結論は、偽の話が速く広がるのは、人が再投稿するからだ、というものだ。【確認済み】
ここからは、私の読みだ。 この研究は、投稿した人の動機を測っていない。再投稿した人が、悪意で広めたのか、善意で広めたのかは分からない。【未確認】 それでも、約300万人の大半が、金のために人を騙すつもりで投稿したとは考えにくい。「これは知っておいたほうがいい」「あなたにも」という気持ちで渡した人が多かった、と私は読む。【仮説・検証中】
悪意は、最初の一人にすぎない
感染症には、最初の一人がいる。しかし、流行をつくるのは、その後に続く無数の人だ。
嘘も同じだ。誰かが利益のために仕掛ける。それは入り口にすぎない。その先、何万人に届けるのは、悪意ではない。善意だ。【仮説・検証中】(上の研究からの私の読み)
善意が強い運び手になる理由は、三つある。
信頼されている。 家族や友人から手渡される。
自分で増える。 助けられたと感じた人が、次の人を助ける側に回る。
疑いにくい。 疑うことが、相手の親切を裏切るように感じられる。
だから、もしあなたが体験談を信じてしまっても、あなたは愚かなのではない。運び手にされているのだ。
バトンの包みは本物で、中身は確かめられていない
ここが、いちばん厄介なところだ。その善意は、本物だ。
運ぶ人は、嘘をついていない。心から、相手を助けたいと思っている。嘘は、本物の優しさに包まれて運ばれてくる。
たとえば、ある健康機器の体験談には「見放されたのに、元気になった」と書かれている。ある水の体験談には「飲んだら調子がいい」と書かれている。語る人は、感謝でいっぱいだ。その感謝は、嘘ではない。
しかし、感謝(確かにあった実感)と、その原因の説明(本当かどうか)は、別のものだ。 バトンの包みは本物の感謝で、中身は確かめられていない説明だ。体験談では、この二つがすり替わっている。
一秒で、中を開ける
渡されたものを、三つに分けてみればよい。この連載の各回に付けているラベルと同じ分け方だ。
確かなこと【確認済み】。 測れば残ること。温めれば温まる。飲めば水分はとれる。本人が実感したことも、実感としては確かだ。
仮のこと【仮説・検証中】。 ある条件で、ある差が出たかもしれないこと。
飛躍【未確認】。 根拠のない断定。「だから万病に効く」「これだけで治る」。
多くの体験談は、一番目(本当に起きた小さな事実)を、三番目(大きな効き目)へ、横滑りさせている。その継ぎ目を、一秒だけ探す。
一秒で、本当に変わるのか。 2021年に学術誌 Nature に出た研究がある。【確認済み】(MIT の発表として)
約850人の調査では、人は真の見出しを偽の見出しより正確だと判断できていた。しかし、共有するかどうかには、真偽がほとんど影響していなかった。
共有を決める前に「この見出しは正確か」と考えてもらうと、偽の見出しを共有する割合が、おおよそ半分に減った。
大手SNSの5000人を超える利用者に、正確さを考えるよう促すメッセージを送ると、その後に再投稿したニュースの質が上がった。
ただし、実際のSNSでの効果の大きさは、発表には数字で書かれていない。【未確認】 「一秒で、すべて止まる」とまでは言えない。言えるのは、立ち止まるだけで、渡す量は減る、ということだ。
試験の読み方は、水の計算㊻に書いた。
バトンが、機械で作られる時代
これまで、体験談には、本物の「感謝した人」が必要だった。一人が、数人に渡す。それが限界だった。
いまは、もっともらしい体験談も、それを包む優しい言葉も、機械で作れる。
米国では、法で禁じた。 米国の連邦取引委員会(FTC)は、2024年8月に、偽のレビューや体験談を禁じる規則を出した。生成AIで作った偽のレビューや体験談も、対象に含まれている。【確認済み】(法律事務所の解説として)
どれだけ混ざっているか。 AIの文章を判定するツールを売る会社が、米国の個人トレーナーの口コミ1445件を調べた。2018〜2021年は「AIらしい」と判定された口コミが毎年4%未満だったが、2025年は27.3%だった。【確認済み】(同社の発表として) ただし、判定ツールの正確さは示されていない。判定を売る会社自身の調査でもある。【未確認】(実際にAIが書いた割合)
日本でも、使う人が増えている。 生成AIを使ったことがある人は、日本では2023年度の調査で9.1%、2024年度の調査で26.7%だった。米国は68.8%、中国は81.2%だ。【確認済み】(総務省 令和7年版 情報通信白書)
感謝した本物の人がいなくても、包みの綺麗なバトンを作れるようになった。それなのに、受け取る瞬間に一秒立ち止まれる人の数が増えるかは、分からない。【仮説・検証中】
機械で確かめているのは、誰か
一方で、確かめる側にも、機械が使われ始めた。誰が、どれくらい使っているのかを調べた。
専門の事実確認の団体。
世界の事実確認の団体は、2026年6月時点で437だ。2024年の464が最も多く、そこから減っている。【確認済み】(米国デューク大学 Reporters' Lab)
国際的な事実確認の団体のネットワーク(IFCN)に加わる団体への2023年の調査(137団体が回答)では、半分を超える団体が生成AIを使っていた。用途は「下調べの手助け」だ。【確認済み】(報道として。正確な割合は確かめていない)
一般の人。
英国オックスフォード大学のロイター研究所は、2025年6〜7月に、日本を含む6か国で、各国約2000人に調査した。【確認済み】
生成AIを毎週使う人:34%(2024年は18%)
前の週に、情報を得るために使った人:24%
事実についての質問に使った人:11%
ニュースにAIを使った人のうち、「情報源を探す、または評価する」ように頼んだ人:37%
AIの検索の答えを見た人のうち、元の情報源のリンクを「いつも」か「よく」開く人:33%
大手SNSに組み込まれた対話AIに、利用者が「これは本当か」と聞く使い方が広がっている。米国の研究機関(大西洋評議会の DFRLab)は、2025年6月の中東の戦争をめぐる約13万件の投稿を調べ、そのAIが、同じような質問に、ときに同じ分のうちに正反対の答えを返していた、と報告した。【確認済み】(報道として)
同じSNSは、2025年7月に、AIが注記の文案を書く試みを始めた。ただし、表示するかどうかは、人の評価で決める仕組みだ。【確認済み】(報道として)
割合は、どうか。 専門の団体と一般の人のどちらが、どれだけ機械で確かめているかを、同じ物差しで比べた調査は、私は見つけていない。【未確認】
人数で言えば、専門の団体は世界で約440しかなく、生成AIで情報を得る一般の人は、上の6か国だけでも回答者の4人に1人ほどいる。だから、機械で確かめている人の大半は一般の人だ、と私は読む。【仮説・検証中】(人数からの推論)
そして、その一般の人のうち、元の情報源まで開く人は3人に1人ほどだ。機械が返した答えも、体験談と同じく、包みの綺麗なバトンになりうる。
AIに確かめさせるなら、決めつけず、迎合させない聞き方がある。それは、番外の「AIに最初に貼る『中立の前置き』」に書いた。
私も、同じ川にいる
偉そうに書いているが、私も売り手だ。油断すれば、私の「良くなりました」も、同じ綺麗なバトンになる。
だから私は、自社の数値のうち、検証に耐えなかったものを撤回して、記録に残した(第1話)。自分を例外にしないためだ。
自分に当てられない刃で、人を切ってはいけない。この回は、その約束を書き直したものだ。
あなたへ
これは、あなたを責める文章ではない。あなたが優しいから、あなたは運び手に選ばれる。優しさは、罪ではない。
ただ、一つだけ。何かを渡されたとき、そして渡すとき、一秒立ち止まって、中を開ける。
あなたのその一秒が、綺麗なバトンの中の黒を、あなたの手の先で止める。
今も分かっていないこと
偽の話を再投稿した人の動機。 善意か悪意かを測った研究を、この回では見つけていない。【未確認】
機械で事実を確かめる人の、専門家と一般の人の割合。 同じ物差しで測った調査を見つけていない。【未確認】
口コミのうち、実際にAIが書いた割合。 判定ツールの正確さが示された調査を見つけていない。【未確認】
正確さを考えさせる方法の、実際のSNSでの効果の大きさ。 発表しか読んでいない。【未確認】
2018年の研究の、日本での当てはまり。 研究は英語圏の大手SNSのものだ。【未確認】
判断
体験談は、「個人の感想です」と添えても、受け取り方はほとんど変わらない。
偽の話を遠くまで運ぶのは、機械ではなく人だ。その多くは、善意で渡している、と私は読む。
だから、信じた人は愚かなのではない。運び手にされているのだ。
共有の前に「これは正確か」と一度考えるだけで、渡す量は減る。
体験談は機械で作れるようになり、確かめる側でも機械が使われ始めた。機械の答えも、中を開けずに渡せば、同じバトンになる。
感謝は本物でも、原因の説明は別に確かめる。その一秒を、私は自分の装置にも当てる。
私は水処理装置を売っている。この記事はその宣伝ではない。
自社の装置についても同じ基準で書く。撤回した数値は https://arijics.com にある。
有路友一/株式会社ARIJICS(MOLECULE)
出典
体験談と打消し表示:消費者庁「打消し表示に関する実態調査報告書(概要)」(消費者委員会 第279回 資料、2018年7月5日) https://www.cao.go.jp/consumer/iinkai/2018/279/doc/20180705_shiryou1_1.pdf
偽の話と真の話の広がり方:MIT News の発表(2018年3月8日。原論文は Vosoughi S., Roy D., Aral S. Science 359:1146-1151) https://news.mit.edu/2018/study-twitter-false-news-travels-faster-true-stories-0308
正確さを考えさせると共有が減る:MIT Sloan の発表(2021年3月17日。原論文は Pennycook G. ほか Nature 592:590-595) https://mitsloan.mit.edu/press/what-can-be-done-to-reduce-spread-fake-news-mit-sloan-research-finds-shifting-peoples-attention-toward-accuracy-can-decrease-online-misinformation-sharing
偽のレビュー・体験談を禁じる規則:米国の法律事務所の解説(2024年8月) https://hunton.com/hunton-retail-law-resource/ftc-issues-final-rule-targeting-fake-consumer-reviews-and-testimonials-including-those-generated-by-artificial-intelligence-ai-and-online-bots
口コミのAI判定:AI判定ツールの会社の調査(2025年。社名は伏せる)
日本の生成AIの利用経験:総務省『令和7年版 情報通信白書』 https://www.soumu.go.jp/johotsusintokei/whitepaper/ja/r07/html/nd112210.html
事実確認の団体の数:Duke Reporters' Lab「2026 census」(2026年6月12日) https://reporterslab.org/?p=4294
事実確認の団体の生成AIの利用:Poynter の記事(IFCN の2023年調査の紹介) https://www.poynter.org/?p=1114377
一般の人の生成AIの使い方:Reuters Institute「Generative AI and News Report 2025」 https://reutersinstitute.politics.ox.ac.uk/sites/default/files/2025-10/Gen_AI_and_News_Report_2025.pdf
SNSの対話AIによる事実確認の不一致:DFRLab の調査の報道(Al-Monitor、2025年6月) https://www.al-monitor.com/originals/2025/06/grok-shows-flaws-fact-checking-israel-iran-war-study
AIが注記の文案を書く試み:BetaNews(2025年7月2日) https://betanews.com/2025/07/02/x-launches-ai-bot-pilot-to-write-community-notes-fact-checkers/
試験の読み方:水の計算㊻ https://note.com/arijisui/n/n066e77022d81
AIへの聞き方:番外「AIに最初に貼る『中立の前置き』」 https://note.com/arijisui/n/n322bdd6321ed
自社の数値を撤回した記録:第1話