メインコンテンツへスキップ
見出し画像

体験談は、なぜ信じられて広がるのか ── 善意が嘘を運ぶ「綺麗なバトン」

    水に特別な力はない。体験談にも、効き目を証明する力はない。しかし、「飲んだら調子がいい」「見放されたのに、元気になった」という体験談は、どんな広告よりも遠くまで届く。
    私は、擬似科学と不当表示、そして誇大に使われるAIを切る。
    自分が設計した装置も、例外にしない。

    私は有路友一。株式会社ARIJICSで水処理装置 MOLECULE を設計している。
    私は長いあいだ、嘘は嘘つきが広めるものだと思っていた。悪意のある誰かが、金のために、人を騙す。そう思っていた。
    この回は、その思い込みを、数字で確かめ直す。そして、私自身の「良くなりました」も、同じ問いに置く。


    先に答えを書く

    体験談は、「個人の感想です」と書き添えても、受け取る側の思い込みはほとんど変わらない。消費者庁の調査では、体験談に気付いた人の42.2%が「大体の人が効果を得られる」と受け取り、打消しの表示をあらためて見せても36.6%が同じ受け取り方のままだった。偽の情報を遠くまで運ぶのは、機械ではなく人だ。約300万人の投稿を調べた研究では、偽の話は真の話より70%多く再投稿され、機械による自動投稿を除いても差は残った。運ぶ人の多くは、嘘をつくつもりはない。善意で渡している、と私は読む(動機を測った研究ではない)。だから、嘘を信じた人は愚かなのではない。運び手にされているのだ。止める方法はある。共有する前に「これは正確か」と一度考えるだけで、偽の見出しを共有する割合はおおよそ半分に減った、という実験がある。いま、体験談の文章は機械が作れるようになり、確かめるのにも機械が使われ始めた。ただ、機械に確かめさせる人が、専門家と一般の人でどんな割合なのかを直接測った調査は、私は見つけていない。


    体験談は、注意書きでは止まらない

    健康食品などの広告には、体験談の横に「個人の感想です。効果には個人差があります」と小さく書いてあることが多い。この注意書きが効くのかを、消費者庁が調べている。【確認済み】(消費者庁「打消し表示に関する実態調査報告書」の概要。消費者意識調査は2016年10月〜2017年3月)

    体験談に気付いた443人のうち、

    • 「体験談と同じような効果が得られる人がいる」と受け取った人:53.0%

    • 「大体の人が効果を得られる」と受け取った人:42.2%

    • 「自分に効果がある」と受け取った人:39.3%

    体験談に気付いたが、注意書きには気付かなかった369人に、注意書きをあらためて見せた。

    • 「大体の人が効果を得られる」:42.8% → 36.6%

    • 「自分に効果がある」:41.5% → 35.2%

    消費者庁は、注意書きに気付いても、体験談から受ける「大体の人が効果を得られる」という受け取り方は「ほとんど変容しない」とまとめている。【確認済み】

    つまり、体験談は、一度読まれると、小さな注意書きでは打ち消せない。


    偽の話を運ぶのは、機械ではなく人だ

    米国マサチューセッツ工科大学(MIT)の研究者は、2018年に学術誌 Science に、大手SNSで広がった話の真偽と広がり方を比べた研究を出した。【確認済み】(MIT の発表として)

    • 2006年から2017年までの、約12万6000件の話の広がり。約300万人が、合わせて450万回以上投稿した。

    • 真偽は、六つの事実確認の団体の判定で分けた(判定は95%以上一致した)。

    • 偽の話は、真の話より、再投稿される見込みが70%高かった。

    • 1500人に届くまでの時間は、偽の話なら、真の話の約6分の1で済んだ。

    • 機械による自動投稿(ボット)は、真の話と偽の話を、同じくらい広げていた。自動投稿をすべて除いても、差は残った。

    研究者の結論は、偽の話が速く広がるのは、人が再投稿するからだ、というものだ。【確認済み】

    ここからは、私の読みだ。 この研究は、投稿した人の動機を測っていない。再投稿した人が、悪意で広めたのか、善意で広めたのかは分からない。【未確認】 それでも、約300万人の大半が、金のために人を騙すつもりで投稿したとは考えにくい。「これは知っておいたほうがいい」「あなたにも」という気持ちで渡した人が多かった、と私は読む。【仮説・検証中】


    悪意は、最初の一人にすぎない

    感染症には、最初の一人がいる。しかし、流行をつくるのは、その後に続く無数の人だ。
    嘘も同じだ。誰かが利益のために仕掛ける。それは入り口にすぎない。その先、何万人に届けるのは、悪意ではない。善意だ。【仮説・検証中】(上の研究からの私の読み)

    善意が強い運び手になる理由は、三つある。

    1. 信頼されている。 家族や友人から手渡される。

    2. 自分で増える。 助けられたと感じた人が、次の人を助ける側に回る。

    3. 疑いにくい。 疑うことが、相手の親切を裏切るように感じられる。

    だから、もしあなたが体験談を信じてしまっても、あなたは愚かなのではない。運び手にされているのだ。


    バトンの包みは本物で、中身は確かめられていない

    ここが、いちばん厄介なところだ。その善意は、本物だ。
    運ぶ人は、嘘をついていない。心から、相手を助けたいと思っている。嘘は、本物の優しさに包まれて運ばれてくる。

    たとえば、ある健康機器の体験談には「見放されたのに、元気になった」と書かれている。ある水の体験談には「飲んだら調子がいい」と書かれている。語る人は、感謝でいっぱいだ。その感謝は、嘘ではない。

    しかし、感謝(確かにあった実感)と、その原因の説明(本当かどうか)は、別のものだ。 バトンの包みは本物の感謝で、中身は確かめられていない説明だ。体験談では、この二つがすり替わっている。


    一秒で、中を開ける

    渡されたものを、三つに分けてみればよい。この連載の各回に付けているラベルと同じ分け方だ。

    1. 確かなこと【確認済み】。 測れば残ること。温めれば温まる。飲めば水分はとれる。本人が実感したことも、実感としては確かだ。

    2. 仮のこと【仮説・検証中】。 ある条件で、ある差が出たかもしれないこと。

    3. 飛躍【未確認】。 根拠のない断定。「だから万病に効く」「これだけで治る」。

    多くの体験談は、一番目(本当に起きた小さな事実)を、三番目(大きな効き目)へ、横滑りさせている。その継ぎ目を、一秒だけ探す。

    一秒で、本当に変わるのか。 2021年に学術誌 Nature に出た研究がある。【確認済み】(MIT の発表として)

    • 約850人の調査では、人は真の見出しを偽の見出しより正確だと判断できていた。しかし、共有するかどうかには、真偽がほとんど影響していなかった。

    • 共有を決める前に「この見出しは正確か」と考えてもらうと、偽の見出しを共有する割合が、おおよそ半分に減った。

    • 大手SNSの5000人を超える利用者に、正確さを考えるよう促すメッセージを送ると、その後に再投稿したニュースの質が上がった。

    ただし、実際のSNSでの効果の大きさは、発表には数字で書かれていない。【未確認】 「一秒で、すべて止まる」とまでは言えない。言えるのは、立ち止まるだけで、渡す量は減る、ということだ。

    試験の読み方は、水の計算㊻に書いた。


    バトンが、機械で作られる時代

    これまで、体験談には、本物の「感謝した人」が必要だった。一人が、数人に渡す。それが限界だった。
    いまは、もっともらしい体験談も、それを包む優しい言葉も、機械で作れる。

    • 米国では、法で禁じた。 米国の連邦取引委員会(FTC)は、2024年8月に、偽のレビューや体験談を禁じる規則を出した。生成AIで作った偽のレビューや体験談も、対象に含まれている。【確認済み】(法律事務所の解説として)

    • どれだけ混ざっているか。 AIの文章を判定するツールを売る会社が、米国の個人トレーナーの口コミ1445件を調べた。2018〜2021年は「AIらしい」と判定された口コミが毎年4%未満だったが、2025年は27.3%だった。【確認済み】(同社の発表として) ただし、判定ツールの正確さは示されていない。判定を売る会社自身の調査でもある。【未確認】(実際にAIが書いた割合)

    • 日本でも、使う人が増えている。 生成AIを使ったことがある人は、日本では2023年度の調査で9.1%、2024年度の調査で26.7%だった。米国は68.8%、中国は81.2%だ。【確認済み】(総務省 令和7年版 情報通信白書)

    感謝した本物の人がいなくても、包みの綺麗なバトンを作れるようになった。それなのに、受け取る瞬間に一秒立ち止まれる人の数が増えるかは、分からない。【仮説・検証中】


    機械で確かめているのは、誰か

    一方で、確かめる側にも、機械が使われ始めた。誰が、どれくらい使っているのかを調べた。

    専門の事実確認の団体。

    • 世界の事実確認の団体は、2026年6月時点で437だ。2024年の464が最も多く、そこから減っている。【確認済み】(米国デューク大学 Reporters' Lab)

    • 国際的な事実確認の団体のネットワーク(IFCN)に加わる団体への2023年の調査(137団体が回答)では、半分を超える団体が生成AIを使っていた。用途は「下調べの手助け」だ。【確認済み】(報道として。正確な割合は確かめていない)

    一般の人。

    英国オックスフォード大学のロイター研究所は、2025年6〜7月に、日本を含む6か国で、各国約2000人に調査した。【確認済み】

    • 生成AIを毎週使う人:34%(2024年は18%)

    • 前の週に、情報を得るために使った人:24%

    • 事実についての質問に使った人:11%

    • ニュースにAIを使った人のうち、「情報源を探す、または評価する」ように頼んだ人:37%

    • AIの検索の答えを見た人のうち、元の情報源のリンクを「いつも」か「よく」開く人:33%

    • 大手SNSに組み込まれた対話AIに、利用者が「これは本当か」と聞く使い方が広がっている。米国の研究機関(大西洋評議会の DFRLab)は、2025年6月の中東の戦争をめぐる約13万件の投稿を調べ、そのAIが、同じような質問に、ときに同じ分のうちに正反対の答えを返していた、と報告した。【確認済み】(報道として)

    • 同じSNSは、2025年7月に、AIが注記の文案を書く試みを始めた。ただし、表示するかどうかは、人の評価で決める仕組みだ。【確認済み】(報道として)

    割合は、どうか。 専門の団体と一般の人のどちらが、どれだけ機械で確かめているかを、同じ物差しで比べた調査は、私は見つけていない。【未確認】
    人数で言えば、専門の団体は世界で約440しかなく、生成AIで情報を得る一般の人は、上の6か国だけでも回答者の4人に1人ほどいる。だから、機械で確かめている人の大半は一般の人だ、と私は読む。【仮説・検証中】(人数からの推論)
    そして、その一般の人のうち、元の情報源まで開く人は3人に1人ほどだ。機械が返した答えも、体験談と同じく、包みの綺麗なバトンになりうる。

    AIに確かめさせるなら、決めつけず、迎合させない聞き方がある。それは、番外の「AIに最初に貼る『中立の前置き』」に書いた。


    私も、同じ川にいる

    偉そうに書いているが、私も売り手だ。油断すれば、私の「良くなりました」も、同じ綺麗なバトンになる。
    だから私は、自社の数値のうち、検証に耐えなかったものを撤回して、記録に残した(第1話)。自分を例外にしないためだ。
    自分に当てられない刃で、人を切ってはいけない。この回は、その約束を書き直したものだ。


    あなたへ

    これは、あなたを責める文章ではない。あなたが優しいから、あなたは運び手に選ばれる。優しさは、罪ではない。
    ただ、一つだけ。何かを渡されたとき、そして渡すとき、一秒立ち止まって、中を開ける。
    あなたのその一秒が、綺麗なバトンの中の黒を、あなたの手の先で止める。


    今も分かっていないこと

    • 偽の話を再投稿した人の動機。 善意か悪意かを測った研究を、この回では見つけていない。【未確認】

    • 機械で事実を確かめる人の、専門家と一般の人の割合。 同じ物差しで測った調査を見つけていない。【未確認】

    • 口コミのうち、実際にAIが書いた割合。 判定ツールの正確さが示された調査を見つけていない。【未確認】

    • 正確さを考えさせる方法の、実際のSNSでの効果の大きさ。 発表しか読んでいない。【未確認】

    • 2018年の研究の、日本での当てはまり。 研究は英語圏の大手SNSのものだ。【未確認】


    判断

    体験談は、「個人の感想です」と添えても、受け取り方はほとんど変わらない。
    偽の話を遠くまで運ぶのは、機械ではなく人だ。その多くは、善意で渡している、と私は読む。
    だから、信じた人は愚かなのではない。運び手にされているのだ。
    共有の前に「これは正確か」と一度考えるだけで、渡す量は減る。
    体験談は機械で作れるようになり、確かめる側でも機械が使われ始めた。機械の答えも、中を開けずに渡せば、同じバトンになる。
    感謝は本物でも、原因の説明は別に確かめる。その一秒を、私は自分の装置にも当てる。


    私は水処理装置を売っている。この記事はその宣伝ではない。
    自社の装置についても同じ基準で書く。撤回した数値は https://arijics.com にある。

    有路友一/株式会社ARIJICS(MOLECULE)


    出典

    あなたへのおすすめ