AIエージェントを哲学から考える――八つの問いと八人の研究者

＜２０２６年８月２４日以前のコンテンツ一覧はこちら＞

＜オースティンの話題から始まり、もうはるか過去の外国の人なので今の日本なら誰に何を質問したら良いのかということで作ってもらいました。ちょっと文章は重複しているところもあるのですが。ただし、著作権を侵害するようなことはしていません。あくまでネットの評価記事からの組み立てになります。＞

＜要約＞

　AIエージェントについて調べていくと、いつのまにか、コンピュータ科学だけでは答えにくい領域へ入り込んでしまいます。

　AIが文章を作るだけであれば、「回答は正しいか」「性能は高いか」を問えば足りていました。しかしAIエージェントは、メールを送り、調査し、予約し、外部のサービスを操作し、ときには人間に代わって何らかの手続きを進めます。

　そうなると、問題は性能だけでは済まなくなります。

　そのAIは「誰」なのか。

　AIの発話は単なる文字列なのか、それとも依頼や報告という「行為」なのか。

　人間が「はい」と答えたとき、何を許したことになるのか。

　AIの報告を、私たちは知識として受け取ってよいのか。

　こうした問いを整理していくと、古くから哲学が考えてきた「名前」「意味」「行為」「同意」「知識」「主体」「権限」「責任」といった主題が、AIエージェントの登場によって、別の姿で立ち戻ってきているように見えてきます。

　そこで本稿では、日本の研究者の公開されている研究・論文・著書を手掛かりに、この問題を八つの問いへ分けて考えてみます。

1　Agentとは誰を指すのか――和泉悠先生

　最初は「名前」です。

　和泉悠先生は、固有名・指示・意味論を研究してこられた言語哲学者です。

　人間についてさえ、「名前は何を指すのか」は簡単な問題ではありません。ところがAIエージェントは、さらに扱いにくい対象です。同じ名前のままモデルだけが更新されたとき、それは同じAgentなのか。複製された二つのAgentは、いつ別の存在になるのか。名前が変わっても、記憶や権限や履歴を引き継いでいれば、同じAgentと言えるのか。

　AI時代の同一性を考える前に、そもそも「名指す」とは何なのか。この古典的な問いが立ち戻ってきます。

2　Agentの発話は行為なのか――三木那由他先生

　次は「言葉」です。

　三木那由他先生は、話し手の意味・コミュニケーション・共同行為などを研究しておられます。

　人間が「約束します」と言うとき、それは約束について説明しているのではありません。その言葉そのものによって、約束という行為をしています。

　では、AIが「依頼します」「確認しました」「承認を求めます」と発話した場合にも、何らかの行為が成立しているのでしょうか。

　AI自身に人間と同じ心理的な意図があるのかという問題とは別に、組織や制度のなかでは、その発話を受けて人や別のシステムが実際に動きます。

　ここには、言葉と行為の境界という、古くて新しい問題があります。

3　人間の「はい」は何を意味するのか――須田悠基先生

　AIが「実行してよろしいですか」と尋ね、人間が「はい」と答える。

　これから、非常によく目にする光景になるでしょう。

　しかし、この「はい」は何なのでしょうか。

　説明を理解したという確認なのか。一回だけ実行してよいという同意なのか。今後も任せるという委任なのか。

　須田悠基先生は、発話行為・証言・真理・同意などを研究しておられます。

　AIの承認画面を考えることは、実は単なるユーザーインターフェースの設計ではありません。「人間の発話によって、何が許される状態へと変わったのか」という、言語哲学・認識論の問題でもあります。

4　Agentの報告から知識を得られるのか――次田瞬先生

　次田瞬先生は、言語哲学や心の哲学の立場から、大規模言語モデルの意味の理解や自然言語理解、さらには証言の認識論へと研究を広げておられます。

　AIが「調査したところAでした」と報告したとします。

　人間は、その報告からAを「知った」と言えるのでしょうか。

　AIが資料を直接に確認したのか。別のAIの回答を用いたのか。それとも推測したのか。

　AIが何を知っているかだけでなく、人間がAIを介して何かを知るとはどういうことかが、問われることになります。

5　Agent同士の一致は証拠になるのか――笠木雅史先生

　二つのAIに同じ質問をして、二つとも同じ答えを返した。

　一見すると、信頼性が高まったように思えます。

　しかし、二つとも同じモデル、同じ情報源、同じ誤った前提を用いていたとしたら、どうでしょうか。

　笠木雅史先生の認識論や、信念・主張の規範をめぐる研究は、ここを考えるための手掛かりになります。

　大切なのは「何台のAIが賛成したか」ではなく、判断の経路がどれくらい独立しているかなのかもしれません。

　なお、和泉先生と笠木先生には、指示判断をめぐる共同研究もあります。八つの領域は完全に独立した箱ではなく、実際の研究においても重なり合っています。

6　そもそもAgentを行為主体と呼べるのか――鈴木貴之先生

　ここまで、当然のように「Agent」という言葉を使ってきました。

　しかし六番目に、いったんその前提そのものを疑ってみます。

　鈴木貴之先生は、心の哲学・人工知能の哲学を研究しておられます。

　AIに人間と同じ意識や欲求があるかどうかとは別に、AIはメールを送り、予約し、データを書き換えることができます。

　では、現実に作用するシステムを、どこまで「行為主体」と呼んでよいのでしょうか。

　本来なら最初に置いてもよい問いを、あえて、ここまで「Agent」という言葉を使ったのちに置きました。私たちが何となく使い始めた「AIエージェント」という呼び名そのものを、一度、足元から確かめるためです。

7　その主体にどこまで力を与えるべきなのか――久木田水生先生

　仮にAIを何らかの意味で行為主体と呼べるとしても、次の問題が残ります。

　どこまで力を与えるのか、という問題です。

　久木田水生先生は、言語哲学を背景に、技術哲学・技術倫理・AIやロボットをめぐる問題を研究しておられます。

　非常に優秀で倫理的な人間に対してさえ、会社のすべての口座・情報・契約を自由に操作する権限を、普通は与えません。

　ならばAIについても、同じではないでしょうか。

　「善いAIを作る」ことと、「AIが行使できる力を適切に制限する」こととは、別の問題です。

8　その力を誰が与え、誰が止め、誰が責任を負うのか――稲谷龍彦先生

　最後は、制度と法です。

　稲谷龍彦先生は、AIやロボットと法、科学技術とガバナンス、人間とAIの相互作用などを研究しておられます。

　人間がAgent Aに仕事を任せ、AがAgent Bへ仕事を渡し、Bが外部のサービスを操作する。

　このとき、最初に与えた権限は、どこまで届くのでしょうか。

　誰が停止できるのか。失敗したとき、誰が責任を負うのか。後から何が起きたかを確認するには、何を記録しておくべきなのか。

　AIエージェントの問題は、最後には「AIそのもの」から、AIを社会のなかに置くための制度へと広がっていきます。

八つの問いは一本につながっている

　こうして並べてみると、八つの問いは、けっして別々のものではありません。

誰なのか。

↓

その発話は何をしたのか。

↓

人間は何を許したのか。

↓

その報告から知識を得られるのか。

↓

複数の判断は本当に独立した証拠なのか。

↓

そもそも、それを行為主体と呼べるのか。

↓

その主体にどこまで力を与えるのか。

↓

その力を誰が与え、誰が止め、誰が責任を負うのか。

　そして最後には、一つの問いへと集まっていきます。

　もちろん、これは二者択一ではありません。

　両方であるのかもしれません。どちらでもないのかもしれません。あるいは、私たちがまだ適切な概念を持っていないだけなのかもしれません。

　大切なのは、ここで答えを急いで作ることではないと思います。

　哲学や法学には、「名前とは何か」「意味とは何か」「約束とは何か」「同意とは何か」「知るとは何か」「行為主体とは何か」「権限とは何か」という問いについて、長い議論の蓄積があります。

　AIエージェントは突然に現れた新しい技術ですが、それによって生まれた問いのすべてが新しいわけではありません。

　むしろ興味深いのは、古くから考えられてきた問いが、新しい技術によって、思いがけず実務の問題になり始めたことです。

　八人の研究者をここで取り上げたのも、どなたかに回答を求めたり、議論へ巻き込んだりするためではありません。

　この問題をもう少し深く考えたくなったとき、どの研究領域へ進めばよいのか。

　その入口を探すためです。

　AIエージェントについて考えることは、未来の機械について考えることであると同時に、人間がこれまで「名前」「言葉」「知識」「行為」「権限」「責任」をどのように考えてきたのかを、もう一度読み直すことでもあるのかもしれません。