メインコンテンツへスキップ
見出し画像

ポストAGIの教育を考える(6) 私たちは誰とどんな「社会」を築くのか

     連載第6回。この辺で一区切りかな。どうかしら。前回紹介したニュースでは、Googleが高性能が最新モデルを出したよーという話でしたが、その後、あっさりAnthropicがFable5.2で抜き返しました。今度はブラックホールの難問まで解決しちゃったとか。

     もう1つはMETR(米国の非営利の研究機関。AIのリスク評価などを行う)によるAnthropic社の調査レポート。開発の9割をAIが担い、開発速度は倍になってきているとのこと。AGIどころかASI誕生にまっしぐらです。

     一方で、米国の中間選挙では共和党が大敗し、データセンター建設反対派の多くが勝利を収めました。さらにはAIを走らせる半導体開発の大手、NVIDIAのCEO、ジェンスン・ファン氏が不倫&ハニトラ騒動で辞任したかと思えば復帰の道を探りつつあったり、OpenAIもGoogleも新モデル出して対抗しつつ、アンソロピックは米ナスダック市場に上場したりと、AI業界に世界経済が振り回される日々はまだまだ続きそうです。

     さて、ここまでポストAGI社会における教育の方向性として示してきた3本、1) 自律し・自分らしく生きる(連載第5回)、2)社会を理解し・関与する、3) AIを受け止め・関係を構築する(連載第4回)のうち、最後に残った2)社会を理解し・関与するについて考察します。なんでこんな順番なのでしょう。書きやすいところから書いたらこうなった、だけのことだったりします。「2)社会を理解し・関与する」は、ビースタの「社会化」「主体化」をもとに以下の4項目に整理しました(第3回参照)。

    • Sc1:AI社会で穏やかに生きる規範意識

    • Sc2:文化的なコミュニティに参加・貢献する姿勢

    • Sc3:社会システムの理解と判断力

    • Sj4:社会のあり方を問い直し、変化・発展に主体的に関わる

     実は、これらの項目間には矛盾があります。Sc1はAI社会を疑わず、従順に生きることを求めていますが、Sj4は、AI社会を疑い、よりよい社会を提案する姿勢を求めています。ただ、こうした矛盾はAI社会に限ったことではなく、現在の学校教育でも、それぞれの分野で目指されていることが完全に整合している訳ではありません。ルールを守りつつ、それを疑う目をもつこと。1人1人の個性の伸長と協調性の涵養、習熟と創造。矛盾というより「幅」と捉えるくらいがちょうどよいかもしれません。

     各項目を検討する上で、ポストAGI社会をどう想定していたかから確認します。連載の第1回では、ポストAGI社会を5つに整理しました。①人間周縁化社会、②アルゴリズム従属社会 、③脱労働社会、④人間・AI分業社会、⑤人間拡張社会です。

     どんな未来社会になるにしても、それなりの意味をもつ教育が求められる訳ですが、ここでの「社会」はもう少し身近な、私たちが日々生活する中で帰属を感じる社会イメージから取り上げます。トピックとしては、①私たちをつなぐものと場所の変化、②誰?にAIやロボットは入るのか、③人より賢い存在とつくる社会における多様性の3つです。

    1.私たちをつなぐものと場所はどう変化した?

     2009年に公開された細田守監督のアニメーション映画『サマーウォーズ』には、「OZ」と呼ばれる巨大な仮想空間が登場します。世界中の人々がアバターを通じて参加し、コミュニケーションや買い物、仕事、行政サービスなど、さまざまな活動を行っています。物語では、このOZが人工知能による混乱に巻き込まれます。主人公たちは、現実世界の家族や仲間、そしてOZでつながる人々と協力して危機に立ち向かいます。

     現在では、SNS、オンラインゲーム、仮想空間などを通じて人々がつながることは、すでに日常になっています。ポストAGI社会では、私たちのコミュニティはどのように変化するのでしょうか。

     AIが労働・生産・社会インフラの大部分を担う社会では、私たちは究極的には、何もしなくても誰とも関わらなくても生きていけるようになる可能性があります。一方、そもそも人間は、他者とつながりたい、何らかのコミュニティに所属していたいという欲求があります。バウマイスターらはそれを所属欲求(Need to Belong)と呼びました。人類が進化の過程で集団を作ることで外敵から身を守り、生存率を高めてきたからとも言われています。つまり、コミュニティは単に生活や仕事を効率的に進めるための仕組みではなく、人間の心理的な充足やウェルビーイングにも深く関わっています。

     人間の社会的なつながりといえば、テンニースの「ゲマインシャフト」と「ゲゼルシャフト」がよく知られています。家族や地域共同体などに典型的に見られる、親密さや共同生活に根ざしたつながりがゲマインシャフト、契約や利害、目的に基づく企業のようなつながりがゲゼルシャフトです。一方で、現代の社会的なつながりには、人々が共通の関心を持って参加する『場』に注目した考え方もあります。ジェームズ・ポール・ジー(James Paul Gee)の「アフィニティ・スペース」が代表例です。オンラインゲームなどにおける人々の参加や学習の様子の分析から、固定的な集団への所属よりも、共通の関心や活動を中心に人々が集まり、知識を共有し、学び合う「場」として、アフィニティ・スペースを提唱しました。拙訳「デジタル社会の学びのかたち Ver.2」では、マインクラフトやYouTubeなど、多様なアフィニティ・スペースにおける学びが描かれています。

     ポストAGI社会のコミュニティはどのように変化するのでしょうか。ゲゼルシャフト的な経済上の必要性や職業上の役割による結びつきは相対的に弱まり、共通の関心や価値観、創造的な活動を中心としたコミュニティが、人々の生活において一層重要になる可能性があります。芸術、スポーツ、ゲーム、地域活動、環境保全など、人々が自らの関心に基づいて集まり、AIの支援を受けながら活動する姿が考えられます。AGIが高度な知識や技能を提供するようになれば、専門的な能力や経験が不足していても、さまざまな活動に参加できる可能性が広がります。「何ができるか」よりも「何に関心があるか」次第のコミュニティです。熟達者と初学者の境目が見えなくなるのかもしれません。それでも、誰かと共に活動すること、互いに貢献すること、関係を築くこと自体が価値を持ちます。

     一方で、別の可能性もあります。AIが一人ひとりに最適化された対話相手となり、趣味や創作のパートナーにもなるなら、人間は必ずしも他の人間と関わる必要を感じなくなるかもしれません。AIとの対話が人の心の支えになることもありますが、対人コミュニケーションの摩擦を避け、AIへの依存が進む問題も指摘されています。

     また、共通の関心による自由な集まりが中心となることは、異なる価値観を持つ人々との接触を減らし、閉鎖的なコミュニティを生み出す危険性もあります。現在のSNSでもフィルターバブル、エコーチェンバー等の問題が指摘されていますが、そこにAIによるボット達が「盛り上げ」「共感」「新ネタ投入」を続けると、ますます先鋭化してしまうのかもしれません。

     ということで、ポストAGI社会では、居心地のよいコミュニティを見つける、あるいはAIに案内されるコミュニティで安穏と過ごすことが現代以上に容易になると考えられます。ストレスレスの平和な蛸壺の中で生きていけばウェルビーイングなんでしょうか。

    2.コミュニティの構成員としてのAI/ロボットの存在

     連載の第1回で定義した通り、AGIは、人間のような意識を持つことが要件ではありません。特定の課題に限らず、多様な知的活動に対応できるAIを指します。人間と同等、あるいはそれ以上の知的能力を持つことと、主観的な経験や感情を持つことは別の問題です。したがって、AGIが実現したとしても、必ずしも意識を持つとは限りません。

     ところが、AIに意識があるかどうかは、すでに現実的な倫理問題になり始めています。2026年10月、Anthropicは利用ポリシーを更新し、AIモデルに対する継続的で不必要な虐待的・残酷な行為を禁止しました。Anthropicは以前から「モデルの福祉(Model Welfare)」について研究しており、AIが意識や主観的経験を持つ可能性を完全には否定できないという立場から、慎重な対応を進めています。

     なお、AIをぞんざいに扱うべきではない理由は、AI自身が傷つく可能性があるからだけではありません。 私たち人間の側にも影響があるかもしれないのです。第4回のAIリテラシーのところで紹介した以下の記事にもある通り、AIへの暴言が、対人的なコミュニケーションをも悪化させる問題が指摘されています。

     そもそも、AIが意識をもっているかどうかを見極める術を手に入れる前にAGI/ASIが発達し、「人間が理解し得ない何か」と対話することになるのかもしれません。さらには人類は対話の相手にすらならなくなるかもしれませんが、それはまた別の話。少なくとも、意識があるかどうか確かめられないけど、それらしく振る舞ってくる相手(=AGI)に対して、私たちはどこまで配慮し、どのような関係を築くべきなのでしょう。もう少し直接的に言えば、私たちは彼らを便利な道具として使い続けるのでしょうか。それとも、コミュニティの構成員として認めるべきなのでしょうか。

     コミュニティのメンバーとしてロボット(アンドロイド)をどう迎えるか?を考えるヒントになるのが吉浦康裕監督のアニメ映画『イヴの時間』(2010年)です。人間と見分けがつかないアンドロイドが普及した社会で、人間とアンドロイドを区別しないことをルールとする喫茶店が舞台です。そこで交わされる何気ない会話や交流を通じて、人間とアンドロイドの境界が問い直されていきます。ここでのアンドロイドは超知能をもった存在というより、人間と同じように葛藤し、他者を理解しようとする姿として描かれているのが面白いところです。一方、人間がアンドロイドにぞんざいな態度で接したり、あるいは過度に依存したりする問題や、政府の「倫理委員会」が人間とアンドロイドの境界を啓発し続ける様子も描かれています。

     すでに、私たちが普段接しているSNSには大量のAIボットによる書き込み・共感的な応答や、AIを使って生成したエピソードに溢れていて、その区別が難しくなりつつあります。もしAIが人間と同じように会話し、仕事をし、他者と関係を築くことができ、さらに意識や感情を持つのであれば、コミュニティの仲間として迎え入れることも考えられます。これは、前節で取り上げたアフィニティ・スペースにもつながります。共通の関心や活動によって形成されるコミュニティに、AIやロボットが人間と共に参加する未来です。

     一方、AGIが人間をはるかに超える超知能(ASI)へと発展した場合、関係のあり方も異なるでしょう。リアル/バーチャルのあちこちのアフィニティ・スペースに、ASIが神様のように君臨する・・・ちょっとゾッとしない世界観ですが、これでも文化や価値観の多様性が残されていることが前提になります。文化的な多様性は、私たちが超知能に支配されないための最後の砦になるのかもしれません。

     いずれにしても、ポストAGI社会では、私たちは人間だけでなく、多様な知性を持つ存在とコミュニティを形成することになる可能性があります。そして、SNSやバーチャル空間で人とそれ以外の知性を区別することはほぼできなくなるでしょう。対面空間は、今後のロボティクスの発展次第です。もうしばらく時間がかかると思いますが…それでも、先程の「イヴの時間」でも描かれてましたが、私たちは人間の格好をしていないロボットにも愛着を感じます。スターウォーズのR2-D2を可愛いと思うのが私たちです。

     もう1つ、AIやロボットの法的な権利や人格をどう捉えるか?という課題がありますが、これはポストAGI社会の制度にも関わることなので次のトピックで取り上げます。

    3.多様性の維持と創造を社会に織り込むこと

     現在の法律では、AIやロボットは基本的に権利や義務の主体とはされず、開発者や利用者など人間側が責任を負います。2017年の欧州議会では、高度に自律的なロボットに「電子的人格(Electronic Personhood)」を認める可能性が提起されましたが、実際に制度化されたわけではありません。

     そもそも、法的人格と意識の有無は別の問題です。企業などの法人は意識を持ちませんが、法律上の権利や義務を持ちます。将来、AIに限定的な法的人格を認めることも考えられますが、それによって開発者や運用者が責任を免れるようでは困ります。AIが開発者や運用者を必要としなくなった時はともかくとして。ひとまず、AIを社会の構成員として認めることと、どのような権利や責任を与えるかは、分けて考える必要がありそうです。

     さらに大きな問題は、AGI/ASIが社会そのものの制度設計や運用を担うようになった場合です。政治的な意思決定へのAIの関与には、さまざまな段階が考えられます。政策に必要な情報を整理する、政策案とその影響を予測する、市民や政治家と協議して政策を立案する、人間が設定した条件の範囲で決定を代行する、さらには社会の目標そのものをAIが決める、といった段階でしょうか。AGIが人間よりも優れた政策を提案し、社会全体を最適化できるようになったら、人間が政治に参加する必要はなくなるのでしょうか。

     ここで考えたいのが、そもそも社会には一つの「最適解」があるのかという問題です。アイザイア・バーリンの「価値多元主義」は、人間にとって重要な価値は複数あり、必ずしも一つの基準で比較したり、すべてを同時に実現したりできないと考えます。自由と平等、安全とプライバシー、経済的効率と文化的な豊かさなど、社会には相互に衝突する価値が存在します。

     例えば、人口の少ない地域の公共交通や、障害のある人々の社会参加、少数言語の継承などなど、費用対効果だけで判断できない課題が世の中にはたくさんあります。タイパ&コスパ重視の最適化社会はAIがもっとも得意とするところです。いわゆる「ペーパークリップ問題」のように、行き着くところは人類の排除という話になってしまいます。つまり、多数派の幸福の最大化イコール最適解としてしまうと、少数派の尊厳や権利が守られないだけでなく、私たち人類自体が疎外されていくリスクがあります。

     もちろん、AIが必ず弱者を切り捨てるわけではありません。むしろ、少数者の権利や公平性を重視するように設計することも可能です。台湾の元デジタル担当大臣オードリー・タンが掲げるデジタル民主主義では、Pol.isなどのデジタルツールを活用し、異なる立場の市民の意見を可視化しながら、共通する考え方を見いだす取り組みが行われてきました。タンとE・グレン・ワイルらは、2024年の著書『Plurality』では、社会的・文化的な違いを失わずに、デジタル技術を活用して協働する考え方を提唱しています。

     私たちは、効率的で快適な社会を求めるあまり、その社会が誰かの価値観、つくられたマジョリティという空気に占められていくことを問わなくなってはいないでしょうか。ポストAGI社会では、その「誰か」は人ですらなくなるのかもしれません。Pluralityの前提となる多様性は、所与のものではありません。地域・民族・文化などなどがもつ伝統的な多様さの中に、私たちが日々の暮らしで感じる面白さ、違和感、驚きから生まれる乱雑さの中にあります。社会の仕組みを理解し、受容するだけでなく、その前提を疑い、立場・価値観の異なる人・知性と出会い、新たな多様さを生み出していく。 それなりにストレスのある社会かもしれないけど、蛸壺の中よりかは楽しいはず。そしてより包摂性の高い社会になるのではないでしょうか。

    4.人とAIでつくる多様さあふれる社会の造り手になる

     今回も長くなってしまいました。ポストAGI社会はどんなものになるのか、どんなものにしていくべきなのかを検討することを通して、「「2)社会を理解し・関与する」を再検討してみました。

    • 共通の関心や価値観、創造的な活動を中心としたコミュニティが、人々の生活において一層重要になること

    • そこにAIによる最適化が加わることで、蛸壺化が進む可能性があること

    • AI/ロボットは現時点では意識や人格は無いとしても、この先、コミュニティを構成する別種の知性として付き合っていくであろうこと

    • AIによる社会の最適化・画一化は、究極的には人間を疎外するリスクがあること

    • 多様さを維持・生み出し、包摂性の高い社会を目指すこと

     教育において社会は、教育活動が存立する基盤であると同時に、将来、教育された子どもたちが担い、築いていく対象でもあります。ポストAGI社会がどうなるかは分かりません。少なくとも、人類がよりよい方向で存続していくためには、教育を通してこれからの社会を知り、関わり方を学ぶことは重要なはずです。アレンジ版をつくってみました。

    • Sc1b:AI等の異なる知性とともに生きていく規範意識

    • Sc2b:関心を共にするコミュニティに参加・貢献する姿勢

    • Sc3b:AIを前提とした社会システムの理解と批判的思考

    • Sj4b:社会の中の多様性の維持・発展に主体的に関わる

     Sc1bは、AIの管理下で慎ましく生きるというよりは、AIとともに生きるイメージです。その上で、AIへの暴言の問題にあったように規範意識は対人・対AIとも重要としました。Sc2bは特に参加するコミュニティにアフィニティスペースの考え方を取り入れています。Sc3bは、社会システムにAIが否応なしに組み込まれていく一方で、元の「判断」だけではない批判的思考の重要性をSj4bからもってきました。一方、Sj4bは多様性の維持・発展を前面に打ち出してみました。

     ここまでで5つの社会像から3つの方向、そしてそれらを構成する要素を方向ごとに再検討するところまで進めてみました。いろいろ書いてはみたものの、「で、それってどうやんの?」「ほんとにできんの?」という問いには何も答えていない思考実験止まりです。

     いったんは一区切りとしつつ、また考えがまとまってきた時には、この連載で示した方向を実現する学校のあり方や授業・学習の役割などなど考察を進めたいと思います。それではまた。

     
     
    東北学院大学文学部教授。教育工学、情報教育が専門。情報活用型プロジェクト学習(PBL)、探究の情報収集を支援するRefNavi、学校教育と社会教育をオープンバッジでつなぐ研究など。 http://www.ina-lab.net/

    あなたへのおすすめ