LLMは飛躍できるか？ ── DeepMindのポジションペーパーが問う「科学的発見」の本質
LLMは飛躍できるか？ ── DeepMindのポジションペーパーが問う「科学的発見」の本質
こんにちはmakokonです。
DeepMindより公開されたポジションペーパーがなかなか面白かったので紹介することにします。（今回はあっさり風味です。付録５を書きたかったための解説です。）
「科学的発見における、重要な帰納、演繹、ジャンプといった要素のループにおいて、現在のＬＬＭではジャンプの実現が難しい」というものです。
そして、科学的発見を導くのは、直感に基づいた物理的バイアスだそうです。
AIは「発見」できるのか
AlphaFoldがタンパク質構造を解き、AI Scientistが論文を自動生成する時代。私たちはすでに「AIが科学を加速する」風景に慣れ始めている。しかし、Google DeepMindの研究者Tom Zahavyらが発表したポジションペーパー「LLMs can't jump」は、この楽観論に一つの重要な留保を投げかける。
現在のLLMは、アインシュタインが一般相対性理論を生み出したような「創造的な飛躍」を、構造的に起こせない——というのがこの論文の核心的な主張だ。
LLMs can’t jump
https://philsci-archive.pitt.edu/28024/1/Scientific_Invention_Position_Paper (17).pdf
アインシュタインのE-J-A図を生成AIで再現したもの。アインシュタインは、感覚経験（E）から飛躍（J）を経て公理（A）へと跳躍し、そこから論理的な帰結を導き出す循環する線を示した。皮肉なことに、公理記号のハルシネーション（誤生成）は、この「飛躍」を自動化すること自体の難しさを浮き彫りにしている。
3つの推論モードと「アブダクション」の特殊性
論文はパースの論理学的分類を借りて、推論を3種類に整理する。
演繹：規則＋事例→結果（論理的に保証された導出）
帰納：事例＋結果→規則（統計的パターンの抽出）
アブダクション：規則＋結果→事例（結果を説明する仮説そのものを発明する）
LLMは前者2つ、すなわち「パターンマッチング」と「論理的導出」には非常に長けている。しかし科学史における本当の飛躍——アインシュタインが「自由落下する観測者には重力が存在しないように見える」という思考実験から等価原理を導き出したような瞬間——は、この2つのどちらでもない。それは新しい公理そのものを、身体的な感覚（自由落下の感覚）から論理的枠組みへと「翻訳」する行為だった。論文はこれを「操作的アブダクション」と呼ぶ。
なぜLLMには難しいのか
論文が指摘する構造的な壁は大きく3つある。
身体性の欠如：LLMは言葉が指す物理的実体（重力、感覚）にアクセスできない、いわば「中国語の部屋」である。
誤差信号の不在：アインシュタインが理論を刷新した当時、ニュートン力学は10⁻⁹の精度で「正しかった」。データの誤差を学習の動力源とする現在のAIには、そもそも「飛躍すべき理由」となる勾配が発生しない。
パッチという近道：データ圧縮を指標にすると、AIは理論の根本的な刷新より、既存理論への微修正（例：水星の近日点移動を説明するために仮想惑星「バルカン」を持ち出す）を選んでしまう。
SNS上の反論：歴史は繰り返すのか
この論文に対しては、専門家から鋭い反論も相次いだ。要約すると3つの論点に整理できる。
歴史的反証：AlphaGo以前も「囲碁の組み合わせ爆発は不可能」と言われていた。AIの限界論は何度も覆されてきた。
ポジションペーパーとしての性質：論文は「絶対不可能」と断定しておらず、世界モデルとの統合というロードマップを示している。
実績の再評価：AlphaFoldのような成果を「発見」に含めないのは定義が狭すぎる。ハルシネーションも新規性探索の兆候と見なせる。
これらの反論は的を射ているが、論文の主眼はむしろ「現在のアーキテクチャの限界を明確化し、次に必要な要素を specify する」ことにある。つまり対立ではなく、補完的な議論として読むべきだろう。
議論の深化：「データ量」対「知能の形式」
この論文をめぐる議論で特に興味深いのは、次のような疑問への応答だ。
「物理的一貫性を求める強い直感」も、結局は膨大なデータを集めれば模倣できるのではないか？人間のヒラメキより多くの情報があれば、既存理論の欠陥は統計的に見えてくるはずだ。
これは非常に筋の通った問いである。しかし論文の立場を敷衍すると、応答は以下のようになる。
データ量の問題ではなく、「圧縮」というインセンティブ構造そのものの問題である。 データ駆動的な最適化は、理論を根本から書き換えるより、複雑性コストの低い「パッチ」を選好する。これは設計次第で回避できる部分もあるが、より本質的な障害は、アインシュタインの飛躍がデータがまだ理論の誤りを示していない状況で起きた点にある。彼を動かしたのは統計的な異常ではなく、「遠隔作用」と「電磁場理論」という2つの確立した公理体系の概念的な矛盾への知的な不快感だった。
これは「情報量が足りないから見つけられない」という話ではなく、「そもそも何を持って“問題”と認識するか」という認識の枠組み自体を発明する必要があるという主張だ。ここにアブダクションの本質的な難しさがある。
今後のAIに求められるもの
論文が示す解決の方向性は、大きく4つに整理できる。
これらは技術的には「すぐにでも実現しそう」に見える。実際、フィジカルAIやシミュレーション技術の進歩を踏まえれば、反実仮想的な介入や物理フィードバックのループは近い将来に実装可能だろう。
しかし論文が最後に突きつける本当の課題は、「信念を持つトリガー」 の設計である。世界モデルや物理接地は推論の“舞台”を提供するだけで、それ自体が「これが正しいはずだ」という信念を生み出すわけではない。この信念（あるいは「概念的矛盾への知的な不快感」）をどう工学的に実装するかは、まだ誰も答えを持っていない。
おわりに：問いの設計としてのAI開発
この論文の価値は、「LLMは科学的発見ができない」という結論そのものよりも、「発見」を演繹・帰納・アブダクションに分解し、現在のAIがどこで止まっているかを明確に言語化した点にある。
AIが次のアインシュタインになれるかどうかは、データ量の問題ではなく、「何を矛盾と感じ、何を信じて探求を始めるか」という、知能の形式そのものをどう設計するかにかかっている。この問いに答えられるようになったとき、AIは初めて「飛躍」を手にするのかもしれない。
付録
以上論文の内容について、興味に基づいて考察紹介してきましたが、いくつかの主張については詳しく触れていません。
付録では、著者がなぜ「データ量や設計だけでは不十分」と考えているのか、そのロジックがより明確になるであろう論点について紹介します。
付録1. 「論理的簡潔さ」は後付けである（MDLの罠）
AI研究では「最小記述長（MDL）」、つまり最もシンプルにデータを説明するルール（圧縮）が良いとされますが、論文はこれに警鐘を鳴らしています。
探索プロセスの複雑性: 最終的な一般相対性理論の方程式（アキシオム）はエレガントで簡潔ですが、そこに至るまでの探索経路は、放棄されたテンソルや誤った方程式が入り混じる極めて複雑なものでした。
「パッチ」の経済的合理性: 圧縮を指標とするAIは、非ユークリッド幾何学を導入して理論を根本から書き換える（一時的に複雑性を劇的に増大させる）よりも、既存のニュートン力学に「未知の惑星バルカン」という変数を1つ加えるような「パッチ（修正）」の方が、短期的には計算コストが低く「正しい」と判断してしまう リスクがあります。
付録2. 「パッシブ（受動的）な予測」と「アクティブ（能動的）な介入」の決定的な差
現在の動画生成AI（SoraやVeoなど）と、著者が求める「世界モデル」の差についてです。
統計的相関としての物理: 現在の動画生成AIが「リンゴが落ちる」映像を作れるのは、重力を理解しているからではなく、学習データの中で「支えがない物体は下に移動する」というパターンが支配的だからに過ぎません（パッシブな相関）。
アクション制御（Genie）の重要性: 著者は、Google DeepMindの「Genie」のような、AIがエージェントとして介入し、アクションを起こせる環境を重視しています。
カウンターファクチュアル（反実仮想）の実行: AIが単にビデオを「見る」のではなく、シミュレーションの主導権を握り、概念的に「エレベーターのケーブルを切る」というアクションを実行してその帰結を体験することが、アブダクティブな飛躍（J）には不可欠です。
付録3. 「発明」と「最適化」の峻別 ── 「AI Scientist」という具体例で考える
本文では、論文が「データ圧縮としての科学（帰納・演繹）」と「アブダクションとしての科学（発明）」を明確に区別していることを紹介した。ここでは、その区別を最近話題になった自動発見システム「AI Scientist」 という具体的な事例に当てはめて、論文の評価をより詳しく見ていく。
AI Scientistの仕組み: 「AI Scientist」は、既存の研究分野において仮説を立て、実験（コード実行）を行い、結果を解析し、論文化するまでの一連のプロセスを自動化するシステムである。表面的には「研究のライフサイクル」を模倣しており、一見するとアブダクション的な「発見」を行っているように見える。
実態は既存シンボルの再結合: しかし論文の立場からすると、AI Scientistが行っているのは、既存の概念・手法・コードパターンという 「既知のシンボルの範囲内」での組み合わせと最適化 に過ぎない。研究テーマの選定も、既存論文群のパターンから統計的に「ありそうな」方向を導き出すものであり、これは帰納（パターン抽出）の高度な応用形態である。
「記号の部屋」の中の高度な操作: つまりAI Scientistは、既存のシンボル（概念・数式・実験手法）を巧みに再結合する能力においては非常に優れているが、それはあくまで「中国語の部屋」の中で行われる高度な操作 であり、部屋の外にある物理的実体（重力、感覚、実験対象そのもの）に直接触れているわけではない。
アインシュタインとの対比: 一般相対性理論の場合、アインシュタインは既存の理論的シンボル（ニュートン力学、電磁場理論）の組み合わせを最適化したのではなく、それらのシンボルがまだ存在しない場所（自由落下する身体的感覚）に新しい公理（等価原理）を打ち立てた。AI Scientistが「既存の研究テーマの延長線上での改良」を得意とするのに対し、この「シンボルの前例なき創出（Symbolic precedent）」こそが、論文が指摘するアブダクションの本質であり、AI Scientistには構造的に欠けている部分だとされる。
評価の妥当性: この意味で、AI Scientistは「研究の自動化・加速」という点では確かに大きな実績だが、論文が定義する「発明（Invention）」ではなく「最適化（Optimization）」の範疇にあると評価される。両者を混同すると、AIの実力を過大評価するリスクがある、というのが著者の指摘である。
付録4. 分野による「感覚体験（E）」の定義の違い
この論文は物理学をケーススタディとしていますが、結論部で他の分野への適用についても触れています。
数学における「E」: 数学のような抽象的な分野でも「ジャンプ（J）」は必要ですが、その場合の「感覚体験（E）」は物理世界ではなく、「高次元のトポロジー」や「形式体系の抽象的なランドスケープ」 になります。
普遍的なメカニズム: 対象が物理世界であれ抽象概念であれ、「生データ（E）から、論理を超えた直感によって新しい公理（A）を生み出す」というアブダクションのサイクル自体は普遍的なものであると主張しています。
この主張を整理すると、**「AIと人間の役割分担の再定義」**という非常に鋭い視点になります。本文や付録と矛盾しないどころか、論文の結論を一歩先に押し進める洞察です。以下に整理します。
付録5. AIの発展が逆説的に「人間にしかできないこと」を浮き彫りにする（私論）
科学の歴史において、突飛なアイデアを提唱した人物はしばしば「根拠がない」「荒唐無稽だ」と批判されてきた。ウェゲナーの大陸移動説、コッホの細菌病因論、コペルニクスの地動説——いずれも、当時の「常識的な帰納・演繹の枠組み」からはみ出した仮説であったがゆえに、長く受け入れられなかった。
しかし今、帰納と演繹に極めて優れたAIが登場したことで、この構図は根本から変わりつつある。
AIが「当然」こなせるようになること
帰納の自動化: 膨大なデータから統計的に有意なパターンを抽出し、「根拠のある仮説」を自動的に列挙することはAIの得意領域である。かつて天才の直感が必要だった「データの中の法則発見」は、AIによって網羅的・高速に実行されるようになる。
演繹の自動化: 与えられた公理（前提条件）に基づいて「観察されるであろう事実」を厳密に推定することも、論理エンジンとしてのAIが最も得意とするところだ。「この理論が正しければ、こういう現象が起きるはずだ」という予測の生成は、人間より速く・正確にこなせる。
逆説的に残る「人間の仕事」
これらがAIに委ねられるほど、AIがデータの集約や論理的導出によっては決して生み出せないものが、人間固有の貢献として浮き彫りになる。それは2つある。
直観的な公理の提示: データから帰納できない、あるいは既存の理論体系に収まらない「新しい前提条件そのもの」を提案すること。これは本文で論じた「アブダクション」の核心であり、身体的経験や概念間の矛盾への知的不快感から生まれる「飛躍（J）」である。
非現実的な仮定の設定: 「もしこの物理定数が違ったら」「もし時間が逆行したら」といった、AIが学習データの分布からは決して思いつかない反事実的・非常識な仮定を意図的に設定すること。これはまさに付録2で述べた「能動的介入（操作的アブダクション）」であり、アインシュタインの思考実験（自由落下するエレベーター）に相当する。
AIと人間の新しい協働サイクル
この視点に立てば、科学的発見のプロセスは次のような役割分担のループとして再設計できる。
人間：直観的な公理・非常識な仮定を提示する（アブダクション）
↓
AI ：その公理・仮定から導かれる帰結を厳密に推論する（演繹）
↓
AI ：推論結果と現実データを照合し、整合性を検証する（帰納）
↓
人間：照合結果の「意味」を解釈し、次の公理・仮定を更新する人間の役割は「縮小」ではなく「純化」
「人間の役割はそれだけになりそう」というのは、悲観的な縮小ではなく、むしろ人間の知的貢献が最も本質的な部分だけに純化されるという見方もできる。帰納と演繹という「根拠を積み上げる作業」をAIが引き受けることで、人間は「根拠がまだない場所に踏み込む」という、科学においてもっとも創造的で危険な行為に専念できるようになる。
かつて「荒唐無稽」と批判されたアイデアが再評価されてきた歴史を踏まえれば、AIという強力な検証エンジンを得た人類は、むしろ今まで以上に「突飛な仮定」を恐れずに提案できる環境を手にしたとも言えるのではないだろうか。
人間は「問いの設計者」であり「信念の源泉」となる。
「このアイデアは、根拠はがない思いつきだから」と萎縮する必要はありません。AIを「解決の道具」としてではなく、人間の「物理的直感を論理へ翻訳するためのパートナー」として位置づけることが、未来の科学発見における人間の真の役割と言えるでしょう。
記事キーワード一覧
#アブダクション （仮説的推論）
演繹・帰納と並ぶ第三の推論モード。結果を説明する新しい公理そのものを「発明」する創造的な飛躍であり、この記事全体の中心概念。
#アインシュタインの飛躍
一般相対性理論の構築プロセスを「感覚体験（E）→飛躍（J）→公理（A）」として定式化したモデル。AIに何が欠けているかを示すベンチマーク。
#操作的アブダクション
「もし〜をしたらどうなるか」という反実仮想的な思考実験を通じて新しい公理を導く行為。アインシュタインの自由落下の思考実験がその典型例。
#身体性 （身体的接地）
抽象的な記号を物理的な感覚・実体に結びつける能力。LLMが「中国語の部屋」にとどまる根本的な原因として論文が指摘するボトルネック。
#世界モデル
物理法則に基づいた潜在的マニフォールド上で動作する内部シミュレーション環境。LLMがアブダクションを行うために必要とされる次世代アーキテクチャの核心。
#物理的バイアス （Physical Prior）
「世界はこう構成されているはずだ」という強い事前知識・直感。無限の仮説空間を剪定し、創造的な飛躍の方向を絞り込む「知的なコンパス」。
#最小記述長 （MDL）の罠
データを最もシンプルに説明するルールを良しとするAIの評価指標。理論の根本的な刷新より「パッチ（微修正）」を選ばせてしまう構造的なリスクを内包する。
#反実仮想的介入
現実には起きていない状況を意図的にシミュレートする能力。AIがGenieのような世界モデルと統合されて初めて実行可能になる、アブダクションの実装上の鍵。
#概念的矛盾
異なる公理体系の間に生じる論理的な衝突。アインシュタインを動かしたのはデータの誤差ではなくこの矛盾への知的不快感であり、AIにとっての「信念のトリガー」問題に直結する。
#帰納・演繹の自動化
LLMがすでに高度に達成している推論モード。AIがこれを担うほど、人間固有の貢献がアブダクション（公理の発明）へと純化されるという逆説的な構図を生む。
#シンボルの前例なき創出
既存の記号・概念の組み合わせではなく、物理的実感から全く新しい公理を打ち立てる行為。AI Scientistとアインシュタインを区別する決定的な差として付録3で論じた概念。
#AI Scientist
仮説生成から論文化までを自動化する自動発見システム。高度な「既存シンボルの再結合」ではあるが、論文の定義する「発明」ではなく「最適化」の範疇にあると評価される具体的事例。
#人間とAIの役割分担
公理・非常識な仮定の提示を人間が、演繹・帰納による検証をAIが担う協働サイクル。帰納と演繹のAI自動化が進むほど、人間の役割がアブダクションに純化されるという付録5の中心的主張。
#フィジカルAI
物理世界と直接インタラクションするAIシステムの総称。反実仮想的介入や物理フィードバックループの実装が近い将来可能になるとされ、世界モデルとの統合の現実的な足がかり。
#ポジションペーパーとしての限界論
この論文が「LLMは永遠に不可能」と断定するものではなく、現在のアーキテクチャのボトルネックを特定し解決の道筋を示すロードマップである点。歴史的なAI限界論との混同を避けるための重要な文脈。
