思考の螺旋 ー自我はいかに形成されるかー自我とはなにか
AIは人間を変えるのか
「Undue Persuasion」という言葉への疑問から考える、人間の判断と責任
神戸大学が行った生成AIと道徳的判断に関する研究結果の記事を読んで、最初に気になったのは、「undue persuasion（不当な説得）」という言葉だった。研究では、18～30歳の若者56人と65歳以上の高齢者74人、合わせて130人を対象に、いわゆる「トロッコ問題」を使った実験が行われた。ChatGPTから反対の立場の意見を提示された結果、転換機問題では32.31％、歩道橋問題では36.92％の参加者が、最初の判断を覆したという。
この結果は、生成AIが人間の道徳的判断にかなりの影響を与え得ることを示している。特に、認知機能が低下している高齢者ほどAIの反論によって判断を変えやすかったという点は、慎重に考える必要があるだろう。生成AIが認知的な負担を軽くする一方で、場合によっては「不当な説得」に対する脆弱性を生み出す可能性があると記事に書いていた。瞬時に疑問が浮かんだ。不当な説得とは何か？どんな説得を不当な説得と言っているのだろうと。「判断を変えた」ことと、「不当な説得を受けた」ことは別物だ。メディアの表現が意図的な表現だったのか、汲み取った内容に差異があったのか不明だが、記事を読んだときに、そう認識できた。
1．人は、そもそも他者によって考えを変える動物
人は日常的に、他人の言葉によって考えを変える。
家族から別の見方を教えられる。
友人の一言で、自分の考えを見直す。
専門家の説明を聞いて、それまでの判断を修正する。
本を読んで、人生観が変わることもある。
それを私たちは普通、「説得された」とだけは考えない。
「新しいことを知った」
「考え方が変わった」
「納得した」
「視野が広がった」
と表現する。
もちろん、そこには不当な説得も存在する。嘘をつく。恐怖を利用する。相手の弱さにつけ込む。逃げ道を与えない追い込み。権威を利用して考える事をやめさせる。そうした行為は、確かに「不当な説得」ではないかと言える。しかし、それで「判断が変わった」という結果だけを見て、それを「不当な説得」と決める事はできないと思う。見落としているのは、なぜ、その人は判断を変えたのか。押し込む側の責任も間違いなくある。しかし、聴く側の責任も見落としてはいけない。
2．人間は、情報をそのまま受け取っているわけではない
ここで、いったんAIから離れて考えてみたい。人は、なぜ誰かの話を聞いて考えを変えるのだろう。それは、外から入ってきた情報を、そのまま受け取っているからではない。人間は、情報を自分の中にあるさまざまなものと照らし合わせながら理解している。
例えば、同じ犬を見ても、子どもの頃から犬を飼っていた人と、以前犬に噛まれた人では、反応が違う。同じニュースを見ても、自分が過去に経験した出来事によって受け止め方は変わる。同じ言葉を聞いても、今日は腹が立つのに、別の日には気にならないこともある。
そこには、五感や知覚、経験、記憶、本能、身体的な反応、感情、直感、理性、価値観、文化、社会的環境など、さまざまなものが関わっている。つまり、情報と判断の間には、人間自身による複雑な処理が存在している。ここを抜いて、「AIが情報を与えた」だから「人間の判断が変わった」とだけ考えると、人間をまるで情報を受け取るだけの受動的な受信機として扱うことになってしまう。
3．道徳的判断でさえ、単純な論理では決まらない
今回の実験で使われたトロッコ問題を考えてみても、それは分かる。「5人を救うためなら、1人を犠牲にしてもよい」と考える人がいる一方で、「どんな理由があっても、自分が意図的に1人を犠牲にすることは許されない」と考える人もいる。どちらも、自分なりの理由を持っている。前者には結果を重視する考え方がある。後者には行為そのものの倫理性を重視する考え方がある。つまり、道徳的判断には「計算」だけではなく、自分は何を大切だと考えているのかという価値観が関わっている。
だから、AIから反対意見を提示されて判断を変えた人がいたとしても、それだけでは「AIに負けた」とは言えない。もともと自分の中にあった価値観を、別の角度から考え直した可能性もある。それはむしろ、人間が持つ重要な能力の一つ。
4．では、AIは本当に特殊なのか
もちろん、AIにはこれまでにない特徴がある。しかし、「AIは人間ではないから、人間に特殊な影響を与える」という説明だけでは十分ではないと思う。人間は昔から、人間ではないものに影響を受けてきた。宗教や神の存在を信じ、生き方を変えた人もいる。自然を見て、自分の生き方を考え直した人もいる。動物との暮らしから、人間の命について考えた人もいる。文学や思想を読んで、人生の方向を変えた人もいる。芸術作品に触れたことで、自分の世界の見え方が変わった人もいる。つまり、「人間ではない存在から影響を受ける」ということ自体は、AIが初めて作り出した現象ではない。
では、AIの何が新しいのか。
5．AIの本当の特殊性は、「サスティナブルに対話できること」にある
AIの大きな特徴は、人間ではない存在でありながら、人間の言葉を使って人間と継続的に対話できることだろう。しかも、すぐに答える。何度でも質問できる。相手の理解度に合わせて説明を変えられる。反論すれば、さらに反論してくる。大量の情報を扱える。時間を選ばず相談できる。人間の専門家に同じ質問を何度もするのは、少し気が引ける。友人に何度も同じ相談をすれば、「またその話？」と思われるかもしれない。しかしAIには、そうした心理的な遠慮がほとんどない。そのためAIは、これまで人間が他者との関係の中で行ってきた、
「相談する」
「質問する」
「反論する」
「確認する」
「説得する」
「考え直す」
という行為を、非常に低いコストで繰り返せるようにした。ここには確かに大きな新しさがある。ただ、それは「AIだけが持つ特殊な心理作用」というより、人間がもともと持っている「対話によって考えを更新する仕組み」を、AIが非常に強力に拡張したと考えたほうが筋が通っている。
6．意味づけと動機づけ――思考の方向を決める分岐点
そして、人間の判断を考えるうえで、特に重要なのが「意味づけ」と「動機づけ」だと思う。同じ情報でも、人によって意味が変わる。AIから、「あなたの考えには、このような問題があります」と言われたとする。ある人は、「自分を否定された」、別の人は、「自分が気づかなかった視点を教えてくれた」と受け取るかもしれない。情報は同じでも、意味づけが違う。そして、その後の動機も変わる。「自分の正しさを証明したい」という人なら、AIの説明の間違いを探すだろう。「できるだけ正しい答えを知りたい」という人なら、自分の考えそのものを見直すかもしれない。「早く答えを出したい」という人なら、「AIがそう言うなら、それでいいだろう」と考えるかもしれない。
つまり、情報 → 判断ではない。その間には、情報 → 意味づけ → 動機づけ → 思考 → 判断という過程がある。そして、この「意味づけ」と「動機づけ」が、思考がどちらの方向へ進むのかを決める大きな分岐点になる。
7．「AIが人間を変える」という言葉には、何かが抜けている
ここまで考えると、「AIが人間を変える」という表現には、少し欠けているものがある。この言葉では、AI → 人間という一方向の関係に見える。
しかし実際には、AIから情報を受け取る→五感で感じ取る→警戒や興味が発生→自分の経験や記憶と照らし合わせる→意味づけする→何らかの動機が生まれる→考える→判断する→行動するという過程がある。
AIが言ったことが、そのまま人間の頭の中に入るわけではない。人間自身が解釈し、受け入れるか、拒否するか、保留するかを決めている。もちろん、その過程を十分に意識できない場合もある。特に、認知機能がひどく低下している人や、自分の判断に強い自信を持てない人については、外部からの説得に対する脆弱性を考える必要がある。恐らく今回の研究が示しているのは、まさにこの部分だろうと考えられるが、それでもそれは「AIが不当な説得した」可能性があると見るより、「判断を変えた」という結果だけではなく、「どのような過程を経て判断を変えたのか？」「体内において、どのような電気的反応が生まれて、判断を変える結果につながったのか？」を見るべきだと思う。
8．「影響されること」と「支配されること」は違う
ここは、AI時代を考えるうえでかなり重要だと思う。人間は、常に誰かの影響を受けながら生きている。親の言葉。教師の言葉。友人の助言。専門家の説明。新聞の記事。テレビのニュース。SNSの投稿。小説。映画。そしてAI。影響を受けない人間など、ほとんどいない。
だから、影響されることそのものを問題にするのではなく、その影響を自分で検討できるかどうかが重要。「AIに影響されたから危険」ではない。「AIの言葉を検討することなく、そのまま自分の判断として受け入れてしまうこと」がどういう事なのかを議論すべき。そして、これはAIだけの問題ではない。広告にも、SNSにも、政治的な発言にも、ニュースにも同じことが言える。
9．責任は、人間だけに押しつけるものでもない
ここで責任の問題が出てくる。AIが、「こう考えることもできます」と言った。それを聞いて、「なるほど」と思うのも人間。「いや、それは違う」と拒否するのも人間。「一度、自分でも調べてみよう」と考えるのも人間なら、「AIが言ったのだから、そのまま信じよう」とするのも人間である。
だから、AIが影響を与えることと、人間が判断主体であることは別の問題である。ただし、だからといって責任をすべて人間に押しつければいいわけでもない。もしAIを提供する側が、意図的に人を欺くような設計をしたり、特定の方向へ誘導するような仕組みを組み込んだりすれば、そこには当然、開発者や提供者側の責任も生じる。つまり、人間が判断主体であることと、判断環境を作る側に責任があることは、両立する。重要なのは、責任をどちらか一方に移すことではなく、それぞれの立場にある責任を明確にすることだろう。
10．だから必要なのは、「AIから人間を守ること」だけではない
AIだけを危険な存在として扱うと、かえって本質を見失う可能性がある。人間は昔から、家族、学校専門家、新聞、テレビ、広告、政治家、宗教、SNSなど、さまざまな情報環境の中で判断してきた。AIは、その環境に新しく加わった、非常に強力な存在である。だから必要なのは、AIを危険視することではなく、発信する側と受け取る側の両方の検証能力を高めること。
発信する側は、「これは事実なのか」「これは解釈なのか」「これは推測なのか」をできるだけ明確にする。研究結果についても、「可能性が示された」ことを、「不当な説得」という断定に変えてしまわない。そして受け取る側も、「本当にそこまで言えるのか」「何と比較した結果なのか」「別の説明はないのか」「この数字は本当に大きいのか」「自分はなぜ、この説明を信じたいと思うのか」などと、一度立ち止まる。つまり、発信側の検証度と、受信側の検証度の両方を高める。これが、AI時代には必要なのだと思う。別な表現では責任が伴う「思慮深さ」とも言えるかもしれない。
11．思慮深さとは、「影響されないこと」ではない
ここでいう思慮深さは、何でも疑うことでも、誰の意見も信じないことでも、怯える事でもない。新しい情報を得て、自分の考えを変えることは悪いことではない。むしろ、「以前はこう考えていた。でも新しい情報を考えると、今はこう考える」と言えることは、人間にとって大切な能力。常に臨機応変に変えて来たから、現代に生きている。
逆に、「私はAIには絶対に影響されない」と最初から決めてしまうことも、本当に思慮深いとは限らない。AIの意見に反発すること自体が、一種の反射になってしまうこともあるからだ。大切なのは、「自分はなぜ考えを変えたのか」を自分自身で確認することだ。AIの説明に納得したのか。AIだから正しいと思ったのか。自分の考えに自信がなかったのか。自分が望んでいた結論をAIが後押ししてくれただけなのか。あるいは、本当に自分の価値観を考え直した結果なのか。その違いを確認できること。それが、本当の意味での思慮深さのはず。
12．人間の思考は、円ではなく螺旋を描く
ここまでを一つにつなげてみると、人間の思考は単純な円の循環ではない。情報を受け取る。五感で感じ取る、体内で反応が起きる、そして意味を与える。何らかの動機を持つ。考える。判断する。行動する。その結果を経験として蓄積する。そして、その経験を持った自分が、次の情報を受け取る。だから、同じ場所には戻らない。人間の思考は、円ではなく螺旋を描いている。その螺旋は、必ずしも成長する方向へ進むとは限らない。新しい情報を受け入れ、経験を振り返り、意味づけを修正できれば、より深い理解へ向かう。一方で、偏った情報を繰り返し受け取り、同じ意味づけを繰り返せば、
偏った情報→偏った意味づけ→偏った確信→さらに偏った情報の選択→さらに強い確信という螺旋を描くこともある。
AIは、このどちらの方向にも作用し得る。だからAIは、私たちの思考の外側にいる事を認知すべき、そしてそれはまったく異質な存在なのではない。むしろ、人間の思考の螺旋に、新しく加わった、非常に強力な対話相手なのだと思う。
13．本当に問うべきこと
そう考えると、最初の問い、「AIは人間を変えるのか？」は、少し違って見えてくる。もちろん、AIは人間に影響を与える。しかし、人間はAIだけによって変えられる存在ではない。人間は、情報を受け取り、感触、匂い、音、色などの五感と照らし合わせ、細胞の反応を呼び起こし、更にそれらを自分の経験や記憶、感情、価値観、意味づけし、動機づけされ、考え、判断し、その結果をまた経験として蓄積していく。AIは、その過程に参加する新しい存在である。
だから本当に問うべき点は、「AIは人間を変えるのか」ではなく、「AIを含む外部からの情報によって、自分の思考が今どちらの方向へ進んでいるのかを、私たちは自覚できているのか？」ということ。
そして、その問いに向き合うことは、AIから自分を守るためだけではない。それは、自分がどのように考え、なぜその判断に至ったのかを知ることでもある。人は、外からの影響を受けながら生きている。影響を受けないことが、人間の強さなのではない。影響を受けた自分をもう一度見つめ、その影響を受け入れるのか、拒むのか、保留するのかを、自分自身で考えられること。そこに、人間の思慮がある。
そして、その選択の積み重ねが、次の自分をつくっていく。情報を受け取り、意味を与え、考え、判断し、経験する。そしてまた、次の情報を受け取る。その螺旋状の繰り返しの中で、人間の思考は少しずつ形を変えていく。人間の思考は円ではない。螺旋を描いている。AIも、その螺旋の中に加わった。その螺旋がどちらへ向かうのか。それを決めるのは、AIそのものではない。AIから何を受け取り、それにどんな意味を与え、どう考え、どう判断するのか。そこには、今までもこれからも人間自身の思慮と責任が残されている。
「自己形成＝自分についての思考の結論」
「自我＝その時点における自己認識の暫定的な結論」
「思考＝その結論を経験や異なる視点によって更新する循環」
「だから思考は円ではなく、螺旋を描く」
細胞は、異なるものとの接触 （多様性）→ 自己の変化 → 新しい自己認識 → さらに思考し続ける。生き延びるとは、自己を囲い守ることではなく、自己を変化させることによって生命を維持する。
自我とは、「思考によって発見された自分」ではなく、自我とは、「思考の螺旋の中で絶えず形成され、更新され続ける自己認識を生む行為」である。
