メインコンテンツへスキップ
見出し画像

AI構築主義──私たちの「わかった」がつくられる循環

    締め切りに追われる午後、目を通す時間のない資料があります。

    資料をAIに渡します。「要点をまとめてください」と入力すると、ほどなくして、数千字あった文章が、いくつかの段落に整理されて返ってきます。文章は読みやすく、論点もきれいに並んでいます。目を通しているうちに、頭のなかにあった曖昧な部分も整理されたように思います。

    「なるほど、そういうことか」

    画面を閉じました。

    数日後、その資料をもう一度開くことになりました。必要な箇所を探すため、今度は原文を読みます。そこで、手が止まりました。

    「あれ…」

    あのとき「原因」だと理解していた箇所は、原文では「関連が示唆される」とだけ書かれています。さらに、決定事項だと思って読んでいた一文にも、「場合によっては」という留保がついていました。読み飛ばしていたわけではありません。むしろ、AIの要約を読んだときには、内容をきちんと理解したつもりでいました。

    画面を戻して、AIの要約を読み直します。たしかに、要約には「原因」と書かれています。しばらく、画面を見たまま動けませんでした。

    あのとき、自分はいったい何を「わかった」のでしょうか。


    「わかった」という感覚

    AIが返してきた文章を読むと、内容が整理されているだけでなく、頭の中まで整理されたように感じることがあります。「なるほど、そういうことか」と思うかもしれませんが、その感覚は内容の正しさだけから生まれているとは限りません。文章そのものとは別のところで、私たちは確かさの手がかりを受け取っています。

    その一つが、「知覚的流暢性(perceptual fluency)」と呼ばれる現象です。ある実験で、同じ内容の文章を、背景とのコントラストによって読みやすさが異なる状態で表示し、参加者にその文章が真実かどうかを判断してもらいました。その結果、読みやすく表示された文章ほど、真実だと判断される傾向が高くなりました[1]。

    もう一つ、よく知られているのが「真実錯覚効果(illusory truth effect)」です。もっともらしい内容の主張を繰り返し提示すると、それが正しい内容であっても誤った内容であっても、その内容を妥当だと判断する度合いが高まることが示されています[2]。

    この二つをAIとの関係で考えると、AIが返す説明の「理解しやすさ」と「繰り返し」が、私たちの理解にどう関わるのかが見えてきます。AIは、質問に応じて情報を整理し、読みやすい文章にして返します。さらに、日常的にAIを使っていると、同じような視点から整理された説明を何度も受け取ることになります。

    こうして、受け取り続けた説明は次第に馴染みのあるものになっていきます。


    なぜAIは「わからない」と言いにくいのか

    AIがもっともらしい間違いを返すことは、よく知られています。なぜ、「わからない」という形ではなく、間違っていたとしても、それらしい答えが返ってくるのでしょうか。

    言語モデルが事実と異なる回答を生成する背景の一つとして、訓練や評価の仕組みを挙げられています[3]。多くの評価では、正しい答えには得点が与えられますが、「わからない」と答えても得点にはつながりません。そのため、確信がなくても答えを推測するほうが、何も答えないより評価されやすくなります。

    AIがもっともらしい答えを返すことは、モデルが「自信満々に嘘をついている」と考えるだけでは捉えきれません。どのような答えを正解として評価し、どのような振る舞いを学習させてきたのか。その条件によって、AIが「わからない」と言うより「答えてみる」方向へ促されるということがあります[3]。


    この足場は、どこの上に立っているか

    AIが返す言葉は、どこから来ているのでしょうか。AIは何もないところから言葉を生み出しているわけではありません。どのようなデータから学び、どの言語や文化を中心に評価され、どのような基準で調整されてきたのかによって、その答え方も変わります。

    そのことは、AIを開発する側の資料からも読み取れます。OpenAIのGPT-4 System Cardでは、安全対策の多くが英語と米国を中心とした視点で設計・検証されており、多言語での頑健性については十分に確認されていないことが記されています[4]。また、複数の大規模言語モデルの「価値観」を国際的に比較した研究では、モデルの回答が特定の国や地域の価値観に近い傾向を示すことも報告されています[5]。

    AIから返ってくる言葉が自然で、筋が通っていて、あたかも中立的な説明のように見えたとしても、その背後には、それを生み出したデータや言語、文化的な前提があります。AIの回答も、何らかのデータや言語、評価の基準を通して形づくられています。


    社会的に作られる現実──社会構築主義

    私たちにとっての「現実」は、最初からそこにあるものを、そのまま受け取っているだけなのでしょうか。

    社会学には、知識や制度、常識がどのような社会的な相互作用のなかでつくられ、維持されているのかを考える「社会構築主義」という視点があります。ピーター・バーガー(Peter Berger)とトーマス・ルックマン(Thomas Luckmann)は『現実の社会的構成』の中で、日常のなかで人々が繰り返す行為や相互作用が、やがて「当たり前の現実」として受け取られていく過程を描きました[6]。

    たとえば、ある習慣が多くの人に繰り返され、それが周囲にも共有されていくと、やがて「そうするもの」として受け止められるようになります。最初から自然に存在していたわけではないものが、人々のあいだで繰り返されるうちに、客観的な現実のように感じられるようになる。バーガーとルックマンが見ようとしたのは、そうした現実の成り立ちでした。

    この視点から見ると、私たちが「知っている」と思っていることにも、社会のなかで誰かが語り、それを受け取った人がまた別の人へ伝えるという過程があります。新聞や学校、会話や仕事のなかで繰り返し語られてきたことが、いつの間にか「知っていること」や「当然のこと」として定着していきます。

    私たちは、社会について、社会の外側から眺めているわけではありません。社会のなかで影響を受けつつ、自分が判断し、語り、行動することで、また別の誰かにも影響を与え、社会のあり方をつくる側にもなっているのです。


    AIによって作られる現実──AI構築主義

    さらに、そこにAIが加わると、この循環のなかに新しい経路が生まれます。

    このとき起こる現象を「AI構築主義」と呼んで、整理してみます。

    AIは、社会に蓄積されてきた言葉や知識をもとに、質問への答えを組み立てます。その答えを人間が読み、理解し、判断や行動に使う。そして、そこで生まれた文章や判断、行動が、また社会のなかに蓄積されていきます。社会からAIへ、AIから人間へ、そして人間から社会へ。これまで人間同士のあいだで生じていた理解の循環に、AIが入り込むことで、その経路が変わります。

    AIは、社会にある言葉をそのまま映しているわけではありません。質問に応じて情報を選び、組み替え、読みやすい文章として返します。私たちは、その説明をもとに物事を理解し、次の判断をします。さらに、その理解をもとに誰かに説明したり、文章を書いたり、別の問いを立てたりします。AIから受け取った言葉が、人間の行動を通じて再び社会へ戻っていくのです。

    この循環によって、AIは現実についての「共有された理解」に影響を与えていきます。


    背後にある関係から考える視点──社会学的想像力

    C・ライト・ミルズ(C. Wright Mills)は『社会学的想像力』で、個人が経験する出来事を、その人だけの問題として捉えるのではなく、その背後にある社会的な状況との関係から考える視点を示しました。個人の経験を、その人を取り巻く社会との関係のなかで捉え直すことで、同じ出来事でも違った見方ができるようになります[7]。

    AIの要約を読んで「わかった」と感じ、その後で原文との違いに気づいたとき、「AIを信用しすぎた」「確認を怠った」と考えることもできます。しかし、それだけでは見えて来ないものもあります。

    締め切りに追われ、その場で資料の概要を把握しなければならない状況では、「いま、ここで理解しなければ先に進めない」と感じ、無意識に理解をそこで区切るという圧力が生まれます。そこに、情報を短時間で整理してくれるAIがあれば、その説明を読んで内容がつながった時点で、理解できたと感じやすくなります。

    「わかった」という感覚は、AIの文章だけで決まるものではありません。「いま理解しなければならない」という状況のなかでAIを使い、その説明によって内容がつながったとき、私たちはそこで理解したと受け取ります。

    このように見ると、「AIが何を答えたか」だけでは捉えきれない側面があります。どのような状況でAIを使い、その答えをどのように受け取ったのか。その関係まで含めて見ることで、自分の「わかった」がどのように生まれたのかを考えることができます。


    「わかった」を問い直す

    AIから返ってきた説明と、原文を読み、現場に触れ、自分で確かめた理解とでは、その成り立ちは違います。答えが正しいかどうかを確かめることは必要です。

    しかし、それと同時に、なぜその説明を「わかった」と感じたのか、その理解がどのような状況のなかで、自分に入ってきたのかを考えると、「わかった」という感覚も違って見えてきます。

    AIは、社会のなかにある言葉をもとに答えを組み立て、それを人間に返します。人間はその説明をもとに考え、判断し、また新しい言葉を社会に送り出します。AIが私たちの理解の過程に入ることで、変わるのは答えを得る方法だけではありません。AIから受け取った説明をもとに何を理解し、そこから何を問うのかまで含めて、私たちの理解が新しい循環のなかに置かれるようになっています。

    いま「わかった」と感じていることは、どこから来たのでしょうか。


    参考文献
    [1] Rolf Reber and Norbert Schwarz, "Effects of Perceptual Fluency on Judgments of Truth," Consciousness and Cognition, Vol. 8, No. 3 (1999): 338–342. DOI: 10.1006/ccog.1999.0386
    [2] Lynn Hasher, David Goldstein, and Thomas Toppino, "Frequency and the Conference of Referential Validity," Journal of Verbal Learning and Verbal Behavior, Vol. 16, No. 1 (1977): 107–112. DOI: 10.1016/S0022-5371(77)80012-1
    [3] Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, and Edwin Zhang, "Why Language Models Hallucinate," arXiv:2509.04664, 2025. https://arxiv.org/abs/2509.04664
    [4] OpenAI, "GPT-4 System Card," 2023. https://cdn.openai.com/papers/gpt-4-system-card.pdf
    [5] Yan Tao, Olga Viberg, Ryan S. Baker, and René F. Kizilcec, "Cultural Bias and Cultural Alignment of Large Language Models," PNAS Nexus, Vol. 3, No. 9 (2024): pgae346. DOI: 10.1093/pnasnexus/pgae346
    [6] Peter L. Berger and Thomas Luckmann, The Social Construction of Reality: A Treatise in the Sociology of Knowledge, Doubleday, 1966.(邦訳:山口節郎訳『現実の社会的構成―知識社会学論考』新曜社、2003年)
    [7] C. Wright Mills, The Sociological Imagination, Oxford University Press, 1959.(邦訳:伊奈正人・中村好孝訳『社会学的想像力』ちくま学芸文庫、2017年)


    関連記事



     
     

    su

     
     
    人、組織、社会、自然。出来事を、その背後にある構造や成り立ちから考えます。システム思考を土台に、哲学や社会理論をレンズとして、世界の見え方が少し変わる文章を書いています。 人の可能性を広げる 新しいステージへ https://www.port.style/

    あなたへのおすすめ