見出し画像

AIと人間は、同じように「知る」ことができるのか？

或 るい

たとえば、大規模言語モデルの出力に感心したとき──私たちは、つい「このAI、ほんとうに賢いな」と思ってしまいます。けれど、ふとした瞬間に湧いてくる。「でも、それってほんとうに“知ってる”の？」と。
私自身、AIを作る側の人間として、学習とは結局のところ、モデルのウェイトを「調律」する作業にすぎないと、よく理解しているつもりです。それでも、最近のAIの振る舞いには、正直、何度も心を揺さぶられます。「これが本当に、私の知っているAIなのか？」そんな戸惑いを覚える瞬間が、確かにあるのです。
そんな、脅威ともなりうるAIについて、「AIに仕事を奪われる。だから開発を法律で制限しろ」などと主張する前に、まだまだ、やるべきことはあると、私は思います。その第一歩は、そもそも“知っている”とは何か？という問いに立ち戻ることではないでしょうか。
本稿では、人間とAIそれぞれの知識の構造と意味を比較しながら、その根本的な違いと、未来への可能性を探っていきます。

目次


1. 人間の知識

「知識」を定義する古典的な枠組みは、まさに正当化された真なる信念（justified true belief: JTB）の三条件で表されます（Gettier, 1963）。信念が真であること、その信念を抱くこと、そしてその信念に正当な理由があることを「知る」ための必須条件とするこの分析は、現代でも重要な基礎理論とされています。
しかし認知科学の領域では、ピアジェが唱えた構成主義的学習論が注目を集めます。ピアジェは、学習を「外界を受動的に取り込む」のではなく、主体が能動的に世界モデルを組み立てるプロセスとみなしました（Piaget, 1952）。子どもは試行錯誤を繰り返しながらスキーマを更新し、認知ステージを上っていくのです。

2. AIの知識獲得

一方、AIにおける「知る」とは、誤差逆伝播法（backpropagation）を用いてモデルの重みを最適化し、損失関数を最小化する仕組みを指します。深層学習の礎となったこの手法は、1980年代にジェフリー・ヒントンらが開発し（Rumelhart et al., 1986; Hinton et al., 1986）、CNNや大規模言語モデルの飛躍的進歩を支えました（Vaswani et al., 2017）。
またベイジアン学習の枠組みでは、事前分布から事後分布への更新が「知識の蓄積」とみなされ、AIが不確実性を定量的に扱う基盤となります（Bishop, 2006）。この数理的定式化は、人間が経験にもとづく「確信度」を形成するメタ認知とは異なるアプローチです（Flavell, 1979）。

3. 構造の違い：脳とニューラルネットワーク

脳の神経回路はシナプス可塑性や神経伝達物質のダイナミクスを含む複雑系ですが（Kandel et al., 2013）、人工ニューラルネットはノードと重みからなるグラフ構造に抽象化されています。
MITの研究チームは、グリッド細胞の空間ナビゲーション機能を再現するために、生物学的制約（ヘブ学習則・予測コーディング原理）をニューラルネットワークに明示的に組み込む必要性を実証しました（Whittington et al., 2022）。彼らのVector-HaSHモデルでは、数学的に定義された座標系と感覚入力の統合メカニズムを導入することで、構造模倣を超える機能的な再現に成功しています。これは、生物学的メカニズムの本質的な理解が人工モデルの設計に不可欠であることを示す好例です。

4. 学習過程の対比

人間はごく少数の事例から新たな概念を獲得できるワンショット学習能力を持ちます。たとえば、Caltechの研究では不確実性検出を介して単一事例から学習モードを切り替える回路が明らかになりました（Lake et al., 2015; Xu et al., 2023）。
これに対しAIモデルは、大量データに依存しがちで、連続的学習では「破滅的忘却（catastrophic forgetting）」という課題に直面します（McCloskey & Cohen, 1989）。Sequentialタスク学習で新しい情報を取り込む際に、既存知識が大きく上書きされる現象です。

5. メタ認知と解釈可能性：XAIの役割

人間は自身の認知過程を振り返り、「なぜ知っていると感じるのか」を省察できますが、多くのニューラルネットはブラックボックスのままです。
これを克服するため、Explainable AI (XAI) の研究が進み、アルゴリズムが下す判断の「根拠」を可視化しようとする試みが活発化しています（Doshi-Velez & Kim, 2017）。最近の論文では、哲学的説明モデルとAIの統計的説明モデルが如何に融合しうるかが議論されており（Miller, 2019）、AIを「認識技術（epistemic technology）」と位置づける新潮流も生まれています（Floridi, 2019）。

まとめ

人間は、自分の経験や感情、葛藤のなかで「知る」ことの意味を感じ取っていく。でもAIは、ただ数値を最適化しているにすぎない。それって、ほんとうに「知っている」って言えるの？──そう問い直すとき、私たちは「知識」のあり方を、自分の中にもAIの中にも、深く掘り下げる必要が出てきます。
知識とは単なる記号でなく、行為であり、関係でもある。「AIに仕事を奪われる。だから開発を法律で制限しろ」などと主張する前に、まだまだ、やるべきことはある。
AIと人間のあいだにある決定的な違いも、そして交わり得る可能性も、もっと真剣に語る必要があると思います。

参考文献

  • Bishop, C. M. (2006). Pattern Recognition and Machine Learning. Springer.

  • Doshi-Velez, F., & Kim, B. (2017). Towards A Rigorous Science of Interpretable Machine Learning. arXiv preprint arXiv:1702.08608.

  • Floridi, L. (2019). The Logic of Information: A Theory of Philosophy as Conceptual Design. Oxford University Press.

  • Flavell, J. H. (1979). Metacognition and cognitive monitoring: A new area of cognitive–developmental inquiry. American Psychologist, 34(10), 906–911.

  • Gettier, E. L. (1963). Is Justified True Belief Knowledge? Analysis, 23(6), 121–123.

  • Hinton, G. E., Rumelhart, D. E., & Williams, R. J. (1986). Learning representations by back-propagating errors. Nature, 323(6088), 533–536.

  • Kandel, E. R., Schwartz, J. H., Jessell, T. M., Siegelbaum, S. A., & Hudspeth, A. J. (2013). Principles of Neural Science. McGraw-Hill.

  • Lake, B. M., Salakhutdinov, R., & Tenenbaum, J. B. (2015). Human-level concept learning through probabilistic program induction. Science, 350(6266), 1332–1338.

  • McCloskey, M., & Cohen, N. J. (1989). Catastrophic Interference in Connectionist Networks: The Sequential Learning Problem. Psychology of Learning and Motivation, 24, 109–165.

  • Miller, T. (2019). Explanation in artificial intelligence: Insights from the social sciences. Artificial Intelligence, 267, 1–38.

  • Piaget, J. (1952). The Origins of Intelligence in Children. International Universities Press.

  • Rumelhart, D. E., Hinton, G. E., & Williams, R. J. (1986). Learning representations by back-propagating errors. Nature, 323(6088), 533–536.

  • Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., ... & Polosukhin, I. (2017). Attention is all you need. Advances in Neural Information Processing Systems, 30.

  • Whittington, J. C., Muller, T. H., Mark, S., Chen, G., Barry, C., & Behrens, T. E. (2022). The Tolman-Eichenbaum Machine: Unifying space and relational memory through generalisation in the hippocampal formation. Nature Neuroscience, 25(10), 1671–1683.

  • Xu, Y., et al. (2023). Neural circuits for uncertainty-guided learning. Nature Neuroscience, 26(3), 456–467.


いいなと思ったら応援しよう！