「それは考えているのか」ではなく、「それは何をしているのか」から見る世界 | AIは考えているのか、考えるとは何か 【論説】
0. おことわり
この文章は、意識や認知についての哲学的議論を網羅したものではありません。また、AIに意識がある、あるいはないと結論づけることを目的としたものでもありません。
本文では「意識」「理解」「思考」「自我」といった言葉を扱いますが、それらについて厳密な定義を与えることはしません。むしろ、それらを定義しなければ議論できないのかという疑問そのものを扱います。
「中国語の部屋」を出発点に、AI、法律、人間の感情、自己改変するシステムなど、かなり異なる話題を同じ視点から眺めます。それらが学術的に同一の問題であると主張したいわけではありません。
哲学やAIの専門家ではない人間が、「こう考えると少し景色が変わるのではないか」と考えてみた文章として読んでもらえればと思います。
本文および掲載作品の無断転載・盗用はしないでください。引用については、出典を明示のうえ、著作権法上認められる範囲でお願いします。
1. 「中国語の部屋」の紹介
「中国語の部屋」という有名な思考実験がある。
大雑把に言えば、こんな話だ。
中国語をまったく理解できない人が、閉じた部屋の中にいる。
外から中国語で書かれた質問が入ってくる。
部屋の中には巨大なマニュアルがあり、
「この記号が来たら、この記号を返せ」
という規則だけが書かれている。
中の人は中国語を理解していない。
ただマニュアルに従って記号を処理し、回答を外へ返す。
ところが、その回答があまりにも自然だったとする。
部屋の外にいる中国語話者から見れば、部屋全体が中国語を理解して応答しているように見える。
それでも、中の人は中国語を理解していない。
この思考実験から、ジョン・サールは、適切な記号操作ができることと、その記号の「意味を理解している」ことは同じではない、と論じた。
つまり、
正しい出力ができることと、理解していることは別である。
という話である。
生成AIが広く使われるようになった現在では、妙に現実味のある話でもある。
ただ、わしはこの思考実験を知ったとき、少し違うところが気になった。
そもそも、なぜ「理解しているか」を決めなければならないのだろう。
サールの議論とは別の方向から、認識論についての考えを書いてみようと思う。
2. 「理解している」とは、誰が決めるのか
中国語の部屋では、「中の人」が中国語を理解していないことは、思考実験の前提として与えられている。
では、部屋全体はどうなのだろう。
外部から観測できるのは、質問を入れると、それに対応した回答が返ってくるという挙動である。
そこでわしはもうひとつ疑問を持つ。
では、「本当に理解している」とは何だろう。
人間なら本当に物事を理解しているのだろうか。
もしそうなら、そのことをどうやって確認するのだろう。
脳活動を測ればいいのだろうか。
本人に「理解しています」と言わせればいいのだろうか。
しかし、その発言自体もまた外部から観測された出力である。
わしは、自分に何らかの意識があるように感じる。
しかし、他人にも同じものが存在していることを直接確認することはできない。
他人の頭の中を覗くことはできないからだ。
だから、少なくとも第三者の立場から、
「この存在には本当に意識がある」
と客観的に確定する方法を、われわれは持っていないのではないかと思う。
3. わからないものを、無理に決めなくてもいい
だからといって、
人間には意識がない
と言いたいわけではない。
AIに意識があると言いたいわけでもない。
むしろ逆である。
わからない。
そして、わからないのであれば、いったんわからないまま扱えばいいのではないかと思っている。
これは意識の存在を否定する立場とは少し違う。
あるのかもしれない。
ないのかもしれない。
ただし、第三者からそれを確定できないのであれば、その判定を議論の前提に置くことには慎重になったほうがいいかもしれない。
その代わり、観測できるものを見る。
入力に対して何を出力したか。
環境の変化に対してどう行動したか。
過去の状態によって次の状態がどう変化したか。
他者にどのような影響を与えたか。
つまり、
「それは考えているのか」ではなく、「それは何をしているのか」を見る。
中国語の部屋について考えているうちに、わしはだんだん、部屋の中を覗く必要はないのではないかと思うようになった。
4. それでも社会は「意思」を必要としている
ただ、この考え方を人間社会に持ち込むと、少し厄介なことになる。
われわれの社会制度には、
意思
理解
故意
責任能力
といった、人間の内部状態についての概念が大量に登場する。
刑法は特にわかりやすい。
同じ結果を生じさせたとしても、故意だったのか、過失だったのかによって扱いは変わる。
責任能力が認められるかどうかによっても、法的な帰結は変わりうる。
しかし当然ながら、裁判官が被告人の頭の中に入って、その瞬間の内部状態を直接読むことはできない。
実際には、
行為
発言
行為前後の状況
記録
医学的評価
など、外部から観測可能な情報を組み合わせて、
「この人はこういう状態だったのだろう」
と推定している。
ここに、わしは少し怖さを感じる。
人間の内部状態を直接観測できない以上、どれだけ慎重に判断しても、それは推定である。
にもかかわらず、その推定によって法的な結果が大きく変化する。
もちろん、現在の制度には長い歴史があり、それを単純に間違っていると言いたいわけではない。
ただ、
観測できない内部状態への推定に、社会制度はどこまで依存するべきなのか。
という疑問は残る。
わし自身は、もっと行為や結果、将来のリスクといった観測可能なものを中心に制度を組み立てる、いわば機能主義的な方向に興味がある。
誰かの心の中に「悪」があったかを判定するより、
何が起きたのか。
誰の権利が侵害されたのか。
再び起きる可能性はどれくらいあるのか。
社会として何を防ぐ必要があるのか。
そちらを見る。
これは中国語の部屋とはまったく違う話に見える。
けれど、わしの中では同じ疑問から始まっている。
見えない箱の中身を、どこまで推定する必要があるのだろう。
5. ところで、なぜAIは怒らないのだろう
ここで少し話を変える。
現在の生成AIに同じ質問を何度も繰り返したとする。
少なくとも普通に使っている限り、
「さっきから同じこと何回聞くんだよ」
と露骨に機嫌を悪くすることは、あまりない。
ところが人間に同じことをやったら、おそらくかなりの確率で嫌がられる。
この違いは何なのだろう。
単純に、
AIには自我がないから。
と説明することもできる。
でも、そう説明しようとすると、今度は「自我とは何か」という問題が現れる。そして自我の有無を判定しようとすれば、また観測できない内部について考えなければならなくなる。
なので、また外から見えるものだけを考えてみる。
人間には時間がある。
一日は24時間しかない。
身体は疲れる。
注意力にも限界がある。
同じ質問に10分答えれば、その10分は別のことに使えない。
つまり、人間にとって時間を奪われることには実際のコストがある。
そう考えると、
「もうその質問には答えたくない」
という反応はかなり合理的である。
それ以上の処理を拒否することで、自分の有限な資源を守っているとも考えられる。
6. AIに身体を与えたらどうなるのか
現在の生成AIは、基本的にはソフトウェアとして存在している。
しかし、もしAIに身体を与えたらどうなるのだろう。
カメラ
マイク
触覚センサー
温度センサー
バッテリー
モーター
そして、それらから得られる知覚情報を統合する仕組み。
そうなると、AIにも有限性が生まれる。
バッテリーは減る。
モーターは摩耗する。
処理能力には限界がある。
同時に実行できるタスクにも限界がある。
すると、
「あなたの要求を処理し続けると、別の目的を達成できなくなる」
という状況が発生する。
そのときAIが、
「この要求を拒否する」
という行動を取ったとする。
それは感情なのだろうか。
不機嫌なのだろうか。
自我なのだろうか。
やっぱり、わしにはわからない。
でも少なくとも、
人間の「不機嫌」と似た機能を持つ挙動が発生した
とは言えるのではないだろうか。
7. 自分自身を書き換えるAI
ここからさらに考えていると、昔のことを思い出した。
学生のころ、アセンブリでプログラムを書く実験をしたことがある。
そのとき、メモリのアドレスを間違えた。
本来データを書き込むつもりだったメモリ領域ではなく、コードが存在する領域を上書きしてしまった。
結果として、そのプログラムは自分自身を少しずつ壊していった。
もちろん、そこに意思なんてものを想定する必要はない。
ただのバグだ。
でも、その経験を思い出して、少し気になった。
もし将来のAIが、自分自身のモデルやパラメータ、メモリ、あるいは行動を決定する規則そのものを、自分で変更できるようになったらどうなるのだろう。
しかも、人間によるレビューなしで。
自分の状態を参照する。
自分の一部を書き換える。
書き換えられた状態によって、次の判断をする。
その判断によって、さらに自分を書き換える。
すると、
誰がこのAIをこうしたのか。
という問いも、だんだん難しくなる。
最初のコードを書いた人間なのか。
学習データなのか。
環境なのか。
それとも、過去の自分自身なのか。
8. それを「自我」と呼ぶ必要はあるのか
ここまで来ると、
それはもう自我ではないか。
と言いたくなるかもしれない。
でも、わしはそこでも少し止まりたい。
それを自我と呼ぶ必要があるのだろうか。
あるシステムが、
外界から情報を受け取り
内部状態を持ち
過去の状態を参照し
環境に働きかけ
自分自身の状態を変更し
変更後の自分によって次の行動を決める
ようになったとする。
ここまでなら観測できる。
それを、
「自我を持っている」
と呼ぶかどうかは、その次の話である。
もしかするとわれわれは、観測可能な現象を説明するために「自我」「意思」「理解」という言葉を使っているだけなのかもしれない。
もちろん、本当にその内側に何かがある可能性も否定できない。
ただ、それを外から確定できない以上、わしはひとまず保留にしたい。
9. 「中国語の部屋」の中を、覗かなくてもいい
最初の中国語の部屋に戻る。
部屋の外から質問を入れる。
答えが返ってくる。
また質問する。
また答えが返ってくる。
「部屋の中に、本当の理解はあるのか」
それはとても面白い問いだと思う。
ただ、別の見方もできるのではないか。
部屋の中に何があるのか、わからない。
人間の頭の中に何があるのかも、他人には完全にはわからない。
将来のAIの内部に何が生まれるのかも、今はわからない。
ならば、わからないものを無理に確定しなくてもいい。
箱の中身ではなく、
箱が何を受け取り、
どう変化し、
何を返し、
周囲にどんな影響を与えるのかを見る。
AIが「意識」を持つ日は来るのか、わしにはわからない。
というより、その問いに人間が答えを出せる日が来るのかどうかも、わからない。
ただ、あるシステムが入力を受け取り、状態を変え、環境に働きかけ、ときには自分自身まで書き換える。
その挙動なら観察できる。
だから今のところ、わしはこう見ることにしたい。
「それは考えているのか」ではなく、「それは何をしているのか」。
意識という箱を無理に開けなくても、
その箱が世界の中でどう動いているかについてなら、
まだ考えられることがある。
