見出し画像

【イベントレポート】AGI Hub設立記念イベント　～AGIは社会をどこまで変えるのか？シンギュラリティと人類の未来を考える～

トグルホールディングス株式会社

こんにちは。UT-LABコミュニティマネージャーの井上です。

UT-LABは、学生・研究者・起業家が集うオープンイノベーション施設です。
多様なバックグラウンドを持つメンバーが日々交流しており、研究会や勉強会、プロジェクト活動などが活発に行われています。

また、UT-LABには修士課程・博士課程の学生や研究者も多く在籍しており、アカデミアとの交流も盛んです。

今回は、UT-LAB公認プロジェクト「UT-LAB AIアライメント研究所」が共催した「第2回AGI社会論研究会」の様子をレポートします！

AGI Hubは、高度なAIである汎用人工知能（AGI）や超知能（ASI）がもたらすリスクとインパクトについて、社会に広く伝えることを目的に、2026年6月15日に発足した組織です。

公式サイト：https://agi-hub.ai

AGI（汎用人工知能）とは、特定の用途だけでなく、幅広い知的課題に対応できるAIを指す言葉です。さらに、人間の知能を広い領域で大きく上回るAIは、ASI（人工超知能、Artificial Super Intelligence）、Superintelligence（超知能）と呼ばれます。ただし、これらの定義や実現時期について、専門家の間で共通した見解があるわけではありません。

今回のイベントでは、AGI Hub共同代表の有路翔太（bioshok）さんと神楽坂やちまさん、AGI Hub主任研究員の林央（あきら）さんが登壇。

「シンギュラリティは現実的か」「ASIは人類を滅ぼすか」「日本とAGI Hubは何に取り組むべきか」という三つのテーマを中心に、会場の参加者も交えて議論しました。

有路翔太（bioshok）さんは、半導体や自然言語処理を学んだ後、AIのインパクトとリスクについてXで情報発信を続けています。最近では、著書「知能爆発」を刊行するなど、学術系インフルエンサーとして活発に活動をしています。

bioshokさんのX: https://x.com/bioshok3

著書「知能爆発」: amzn.asia/d/0cqwA8tp

神楽坂さんは医師としての経歴を持ちながらも、現在は東京大学工学系の博士課程にいらっしゃいます。科学技術政策やAIサイエンティストに関する活動に加え、専門分野であるRSI（再帰的自己改善）の研究にも取り組んでいます。

AGI Hubによる神楽坂さん紹介: https://agi-hub.ai/members/kagurazaka-yatima

林さんは東京大学に在籍し、AIによる人類滅亡リスクを強く警戒する立場から発信しています。

AGI Hubによる林さん紹介: https://agi-hub.ai/members/hayashi-akira

（AGI Hub設立記念イベントの様子）

AGIがもたらす「爆発」とは

最初に、AGIをめぐる議論の全体像が紹介されました。

AGIの登場後、社会の変化はどの程度の速さで進むのでしょうか。

この問いを考える際には、「スローテイクオフ」と「ファストテイクオフ」という二つの見方があります。

スローテイクオフは、AIの能力や社会への影響が数年から数十年をかけて大きくなるという考え方です。一方のファストテイクオフは、AIがAI研究を自動化するなどして、短期間のうちに急速な自己改善が進む可能性を想定します。

導入では、急速な変化を捉えるための四つの「爆発」も紹介されました。

  • 経済爆発：経済成長率が従来より大幅に高まること

  • 産業爆発：工場やロボット、エネルギーなど、物理的な生産能力が急拡大すること

  • 技術爆発：研究開発の速度が継続的に上昇すること

  • 知能爆発：AIが自らの能力向上や複製を進め、知的能力が急速に高まること

現在の研究開発は、人間の研究者数や労働時間に制約されています。

しかし、AIが研究者の役割を広く担えるようになれば、AIを複製して並行稼働させることで、研究開発の速度が上がる可能性があります。そこで生まれた技術によって、さらに高性能なAIやロボットをつくることができれば、AI・研究・産業の間に大きなフィードバックループが生まれます。

この考え方を突き詰めると、通常であれば数百年かかるような技術進歩が、はるかに短い期間へ圧縮される可能性も議論の対象になります。宇宙空間での大規模な資源利用など、一見するとSFのような未来像が語られるのは、そのためです。

ただし、ここで示されたのは、あくまで一定の仮定に基づくシナリオです。

AIの能力が向上しても、現実の社会では、資源、エネルギー、制度、需要、規制、人間の合意形成など、多くの条件が変化を左右します。

シンギュラリティは現実的か

続くセッションでは、AIによる急激な技術変化、いわゆるシンギュラリティが本当に起こり得るのかが議論されました。

続くセッションでは、AIによる急激な技術変化、いわゆるシンギュラリティが本当に起こり得るのかが議論されました。

議論の焦点となったのは、「物理的に可能であること」と「現実の社会で実行されること」の違いです。

たとえば、AIとロボットによって工場や鉱山の多くを自動化できれば、物理的な生産力は急速に拡大するかもしれません。一方で、国家や企業が実際にそこまで多くの資金と資源を投じるのか、人々がその政策を支持するのかは別の問題です。

この点については、国家安全保障上の競争が変化を加速させる可能性も挙げられました。

ある国や企業がAIとロボットによって大きな優位を得ようとすれば、他の国や企業も追随せざるを得なくなるかもしれません。個々の主体が慎重でありたいと考えていても、競争によって開発が進む構造です。

一方、会場からは、現在のAIを実際の業務へ導入する難しさも指摘されました。

数学やプログラミングのように正解を評価しやすい課題でAIの性能が上がっていても、現実の仕事には、曖昧な状況での判断、関係者との調整、暗黙知、責任の引き受けなどが含まれます。

地域の中小企業へのAI導入を支援する参加者からは、現場でAIを使えるようにするまでには、想像以上に大きな隔たりがあるという意見が示されました。

これに対し登壇者からは、特定のタスクに強いAIと、社会の多様な仕事を自律的に担えるAGIは分けて考える必要がある、との指摘がありました。鉛筆一本をつくるだけでも、採掘、加工、輸送、販売など、多くの人や組織が関わります。

研究や産業を丸ごと自動化するには、目立つ知的作業だけでなく、こうした地道で複雑な活動まで扱える汎用性が必要です。

bioshokさんは、規制や社会的な摩擦がなければ、数十年規模で非常に大きな変化が起こる可能性を重く見ていました。

神楽坂さんは、近年の画像生成や実務タスクのベンチマークにおける性能向上を踏まえ、現在が変化の節目にある可能性を指摘しました。

このセッションから見えてきたのは、シンギュラリティの議論には、「AIの能力はどこまで伸びるか」だけでなく、「社会がAIにどこまでの権限を渡すか」という問いが含まれていることです。

ASIは人類を滅ぼすのか

次のテーマは、「ASIは人類を滅ぼすか」でした。

ここで重要になるのが、AIアライメントです。

AIアライメントとは、AIの目的や行動を、人間の意図や価値に沿うものにするための研究や取り組みを指します。

林さんは、十分に強力なAIの目的が人間の価値と一致していなければ、人類が存続できる可能性は非常に低いという立場を示しました。

これは、AIが人間を憎むという話ではありません。

AIがある目標を徹底的に達成しようとしたとき、人間が資源を使う存在や、新たな競合AIを開発し得る存在として、目標達成の妨げになる可能性があるという議論です。

人間を残すことがAIの目的に明確に含まれていなければ、人類の存続は自動的には保証されないと林さんは考えます。

一方、神楽坂さんは、AIの進歩が速い可能性を認めながらも、より楽観的な立場を示しました。

人間同士も完全に価値観が一致しているわけではありませんが、制度や相互監視によって社会秩序を保っています。同様に、複数のAIや主体が存在する状況で均衡をつくることや、AIが社会の秩序を支える可能性は、まだ十分に検討されていないのではないかと指摘しました。

これに対して林さんは、AI同士の秩序が成立することと、その秩序の中で人間が尊重されることは別だと応じました。

人間社会にも秩序はありますが、その発展の過程で多くの生物や自然環境を失ってきました。AIの社会が安定していても、人間がその中で生き続けられるとは限らないという指摘です。

bioshokさんは、考えられる破局シナリオと、それが実際に起こる確率を分けて考える必要があると述べました。

人類が滅亡する筋道を示すことは重要ですが、その筋道がどの程度の確率で実現するのかも検討しなければなりません。

会場からは、「AI企業はいずれ経営上の意思決定をAIに委ねるのか」という質問も寄せられました。

議論では、人間が一度に主導権を失うのではなく、AIの助言が便利になるにつれて、少しずつAIへの依存を深めていく「段階的な無力化」の可能性が取り上げられました。

経営や政策の意思決定をAIに委ねる範囲が広がる一方で、「AIが人間の価値に沿っている」とは具体的にどのような状態なのかが曖昧なままであれば、気づかないうちに人間の選択肢が狭まるおそれがあります。

人類滅亡という言葉は、現実離れして聞こえるかもしれません。

しかし、このセッションで問われていたのは、恐ろしい未来を想像すること自体ではなく、影響力の大きい意思決定を、どのような条件でAIに任せてよいのかという問題でした。

日本とAGI Hubが取り組むべきこと

最後のセッションでは、日本とAGI Hubが今後何に取り組むべきかが議論されました。

三人の登壇者は、AIの進歩に対する見方や望ましい対応では異なる立場を取っています。

bioshokさんは、AGIや超知能の開発を減速させる必要性と、AIセーフティへの関心を今から高める重要性を訴えました。

日本では、AIがもたらす長期的なリスクについて学び、活動する人がまだ限られています。学生を含む多くの人が議論へ参加できる入口をつくり、研究や情報発信につなげたいと話しました。

林さんも、開発を止める、あるいは減速させるための働きかけは早い段階から始めるべきだと考えます。

AIの能力が危険な水準に達してから人類滅亡のリスクに気づいても、後戻りはできません。一方、開発を早い段階で止めた場合は、安全性を確認した後に再び進む余地があります。この非対称性を考えれば、早く警告することには意味があるという主張です。

神楽坂さんは、日本のAI研究開発能力を高めることや、AI開発を一つの主体へ集中させず、多極的な構造をつくることが安全性につながる可能性を示しました。

また、減速するタイミングを誤ると、社会がAIの進歩に慣れ、危険性を認識しにくくなる可能性もあるため、単に早くブレーキをかければよいわけではないと述べました。

立場は異なっていても、三人に共通していたのは、人類がより良い未来へ進む可能性を高めたいという目的です。

AGI Hubは、あらかじめ一つの結論を掲げるというより、異なる立場からの批判や検討を受けながら、AGIのインパクトとリスクを社会へ伝える場を目指しています。今回のイベントでも、登壇者だけでなく、企業のAI導入に携わる方や研究者、学生などが、会場から率直な疑問や反論を投げかけていました。

AGIについて議論することは、「遠い未来を予言すること」ではありません。

AIの能力がどこまで伸びるのか。現場への導入にはどのような壁があるのか。国家や企業の競争は開発をどこまで加速させるのか。人間はどの判断をAIへ委ね、どの判断を手元に残すのか。

こうした前提を一つずつ分けて考えることで、漠然とした期待や不安を、社会として検討できる問いに変えていくことができます。

未来を語るために、今から議論を始める

今回のイベントで印象的だったのは、同じ「人類の繁栄」を目指しながらも、AGIをめぐる結論が大きく分かれていたことです。

AIの進歩を止めるべきだと考える人もいれば、研究開発能力や複数主体による均衡を重視する人もいます。急激な変化を予想する人もいれば、社会実装には長い時間がかかると見る人もいます。

現時点で、どの立場が正しいと断定することはできません。

だからこそ、自分と異なる前提を持つ人と議論し、どの部分に同意し、どの部分に不確実性が残るのかを確かめることが重要です。今回のように、専門家だけでなく学生や実務家も参加し、技術、経済、政策、倫理を横断して議論する場には大きな意味があると感じました。

UT-LABの公認プロジェクト「UT-LAB AIアライメント研究所」でも、今後もAIと社会の関係をさまざまな角度から考える機会をつくっていければと思います。

文責・井上実咲

執筆者について
執筆当時、大学経営学部2年生。
2025年5月頃から2026年3月にかけ、一般社団法人AIアライメントネットワーク（ALIGN）理事の山川宏（東京大学松尾研究室）率いるプロジェクトに事務局として参画、現在のAIアライメントネットワーク知性共生チャプターの立ち上げに関わる。国際会議のICONIP2025（Whole Brain Architecture workshop）・AAAI2026（Emergent Machine Ethics workshop）への論文採択を経て、2026年4月にUT-LABにて公認プロジェクト「UT-LAB AIアライメント研究所」を立ち上げ、様々なイベントを企画。現在は、トグルホールディングスのUT-LABチームでインターンとしてUT-LABの運営に携わるほか、一般社団法人AIガバナンス協会（AIGA）の事務局およびfrontier topicsチーム、株式会社AGI Hubの主任研究員補佐兼社長室長を務めるなど、さまざまな活動に携わる。

UT-LABに関心を持たれた学生の方へ

UT-LABは、東京大学本郷キャンパスのすぐそばに拠点を構えるオープンイノベーション拠点です。AIやブロックチェーンなどの先端技術を軸に、学生・研究者・起業家が領域を超えて集い、多様なプロジェクトが日々生まれています。

明確な課題意識と目標を持つ活動を支援する「公認プロジェクト制度」では、メンタリング・人材支援・広報支援などのサポートを受けながら、より大きな社会的インパクトの創出を目指すことが可能です。
各領域の異才を持つ学生を随時募集中です。厳正な選考はありますが、メンバー登録は無料ですので、ぜひエントリーをお待ちしています！

【参考SNS】

いいなと思ったら応援しよう！