見出し画像

『GEOI完全開発』――Generative Ecology Organism Integrity――人間・AI・Agent・記憶・知識・組織・環境を接続する生成生態系統合体の設計・技術仕様・全実装コードと、Realityから最適知能アーキテクチャを発見するEngineering Science(第6回)(第Ⅴ部 EXPERIMENT 第5章 GEOIを測定する)

第Ⅴ部 EXPERIMENT

第Ⅳ部までに、GEOIはConceptからRunning Systemへ移行した。

[
Definition
\rightarrow
Architecture
\rightarrow
Specification
\rightarrow
Implementation
\rightarrow
GEOI\text{-}0
]

しかし、作ることができたという事実は、GEOIが有効であることを意味しない。

まして、GEOIが既存のAI Architectureより優れていることも、知能がModelではなくRelationやSystemに存在することも、まだ何一つ証明されていない。

ここから本書はEngineeringから、

[
\boxed{
Experimental\ Engineering
}
]

へ進む。



GEOIの中心仮説は、単に「複数のComponentを統合すると便利になる」というものではない。

より深い問いは、

[
\boxed{
\textbf{
Reality上で観測される知能能力は、
どのComponentとRelationによって生成されているのか
}
}
]

である。

従来のModel-centricな観測では、知能能力の主要な説明変数をModelへ置く。

[
Capability

f(Model)
]

しかしGEOI仮説では、

[
Capability

f(
Model,
Memory,
Knowledge,
Agent,
Human,
Organization,
Environment,
Feedback,
Integrity,
Relations,
Time
)
]

として捉える。

この仮説が正しいなら、Model Scaleだけを増加させなくても、Memory、Knowledge、Human、Feedback、RelationなどのIntegrationによってDelivered Capabilityを増加させられる領域が存在する可能性がある。

反対に、Experimentの結果、Capabilityの大部分がModel Capabilityによって説明され、IntegrationがCostとComplexityを増加させるだけなら、GEOI仮説は弱くなる。

したがって本部では、

[
\boxed{
GEOIを証明しない。
GEOIを壊しにいく。
}
]



最初に必要なのはBaselineである。

比較対象なしに、

「GEOI-0は動いた」

「Taskを完了した」

「HumanとAIが協働できた」

と記述しても、それはArchitectureの優位性を意味しない。

同じTask、同じModel、同じEvaluation Conditionのもとで、

[
Model
]

[
Model+RAG
]

[
Model+RAG+Agent
]

[
GEOI\text{-}0
]

を比較する。

さらにModelを固定したままArchitectureだけを変更する。

これによって、

[
\boxed{
Model\ Effect
}
]

と、

[
\boxed{
Architecture\ Effect
}
]

を可能な限り分離する。



次にCapabilityを定義する。

本書では、

[
\boxed{
Intrinsic\ Capability
\rightarrow
System\ Capability
\rightarrow
Delivered\ Capability
}
]

の三層を区別する。

Benchmark上でModelが問題を解けることはIntrinsic Capabilityである。

Tool、Memory、Agentを組み合わせてTaskを遂行できることはSystem Capabilityである。

しかし最終的に測るべきものは、

[
\boxed{
Verified\ Delivered\ Capability
}
]

である。

すなわち、

[
Task
\rightarrow
Action
\rightarrow
EnvironmentChange
\rightarrow
Outcome
\rightarrow
Verification
]

まで到達した能力である。

Correct Answerではなく、Verified Outcomeを主要な観測単位にする。



そのためにReality Benchmarkを構築する。

GEOIが生成したOutputを自己評価させるだけではない。

SoftwareならTest。

ResearchならEvidence。

Operationなら実際の完了状態。

Decision SupportならHuman Decisionとその後のOutcome。

Physical Environmentへ接続する場合にはSensorや外部観測。

可能な限り、

[
\boxed{
System\ Output
\neq
Ground\ Truth
}
]

となるEvaluation Boundaryを設ける。

GEOI自身の内部記述ではなく、外部Realityによって結果を判定する。



さらに、GEOIを一つずつ分解する。

[
GEOI-Memory
]

[
GEOI-Knowledge
]

[
GEOI-Human
]

[
GEOI-Feedback
]

[
GEOI-Integrity
]

を実行する。

そして、

[
\boxed{
\Delta Capability_i

Capability(GEOI)

Capability(GEOI-i)
}
]

を測定する。

Componentを追加しただけでは、そのComponentがCapabilityへ寄与したとは言えない。

除去し、介入し、結果が変化して初めてContributionを推定できる。

同じ方法をRelationにも適用する。

[
\boxed{
Relation\ Ablation
}
]

によって、知能がNodeに存在するのか、Node間のRelationに依存するのかを検証する。



Model Dependencyも独立に測定する。

同一GEOI Architectureに、

[
Frontier
\rightarrow
Medium
\rightarrow
Small
\rightarrow
Local
]

と異なるModelを接続する。

そして、

[
\boxed{
Capability_{GEOI}(M)
}
]

を測る。

もしModel Capabilityを下げるとDelivered Capabilityもほぼ比例して崩壊するなら、GEOIはModelへの依存度が高い。

一方、

[
Small\ Model
+
Rich\ Ecology
]

が一部のTaskで、

[
Large\ Model
+
Thin\ Architecture
]

へ接近するなら、IntegrationがModel Scaleを部分的に代替できる可能性が生じる。

どちらの結果も受け入れる。



時間もExperimental Variableにする。

GEOIの特徴をMemory、Feedback、Adaptationに置くなら、一回のBenchmarkだけでは十分ではない。

[
\boxed{
GEOI(t)
}
]

として観測する。

例えば、

[
t=0,\ 30,\ 90,\ 180\ days
]

で、

Capability、

Failure、

Human Intervention、

Adaptation Cost、

Memory Quality、

Knowledge Quality、

Integrity

を測定する。

重要なのは、

[
\boxed{
Experience
\neq
Learning
}
]

である。

Systemを長く動かしただけではLearningとは呼ばない。

同等Taskに対するCapability、Cost、Failureなどが時間とともにどう変化したかを測る。



そして本部の最後に、最も重要な問いへ戻る。

[
\boxed{
Where\ Is\ Intelligence?
}
]

Modelを交換する。

Memoryを除去する。

Knowledgeを除去する。

Humanを外す。

Feedbackを止める。

Relationを切断する。

System Boundaryを変える。

そのたびにDelivered Capabilityがどのように変化するかを観測する。

もしCapabilityがほぼModelだけに追随するなら、

[
Intelligence
\approx
Property\ of\ Model
]

という説明が強くなる。

もし複数のComponentとRelationへの介入によってCapabilityが非線形に変化するなら、

[
\boxed{
Intelligence
\approx
Property\ of\ Integrated\ System
}
]

という別の説明可能性が開く。

ただし、本書は後者を結論として先取りしない。

Realityに決めさせる。



したがって第Ⅴ部の検証軸は、

[
\boxed{
Baseline
\rightarrow
Capability
\rightarrow
Reality
\rightarrow
Ablation
\rightarrow
ModelDependency
\rightarrow
Time
\rightarrow
Intelligence
}
]

となる。

第4章までに作ったGEOI-0は、ここから研究対象へ変わる。

[
\boxed{
Architecture
\rightarrow
Intervention
\rightarrow
Measurement
\rightarrow
Evidence
}
]

そして本部で問うのは、

「GEOIは動くか」

ではない。

[
\boxed{
\textbf{
何がReality上の知能を生成していたのか。
}
}
]

である。

この問いに答えるため、まずGEOI-0を比較可能にする。

第5章では、

[
\boxed{
GEOIを測定する
}
]

ことから始める。
第5章 GEOIを測定する

第1節 Baseline

GEOI-0は動いた。

しかし、

[
\boxed{
Running
\neq
Effective
\neq
Efficient
\neq
Superior
}
]

である。

GEOIがTaskを完了できたという事実だけでは、Architectureとしての価値は分からない。

同じTaskを、より単純なSystemが、より短時間・低Cost・高Reliabilityで達成できるかもしれない。

したがってExperimentの最初に必要なのは、

[
\boxed{
Baseline
}
]

である。

Baselineとは、GEOIを良く見せるための弱い比較対象ではない。

GEOIを使う必要がない可能性まで検証するための、

[
\boxed{
Alternative\ Architecture
}
]

である。



1 何と比較するのか

GEOIの効果を測定するには、複数のArchitecture Familyを用意する。

最小構成を、

[
B_0=Model
]

[
B_1=Model+RAG
]

[
B_2=Model+RAG+Agent+Tools
]

[
B_3=GEOI\text{-}0
]

とする。

それぞれが異なるIntegration Levelを持つ。

B0  Model
B1  Model
   + Retrieval
B2  Model
   + Retrieval
   + Agent
   + Tools
B3  Model
   + Memory
   + Knowledge
   + Agent
   + Tools
   + Human
   + Organization
   + Environment
   + Feedback
   + Integrity

ここでB3だけを特別扱いしない。

すべてを、

[
\boxed{
Candidate\ Architecture
}
]

として同じExperimentへ投入する。



2 同じModelで比較する

最初のExperimentではModelを固定する。

[
\boxed{
Model_{B0}

Model_{B1}

Model_{B2}

Model_{B3}
}
]

とする。

Temperature、Context Limit、Generation Parametersなど、結果へ影響する主要条件も可能な限り揃える。

目的は、

[
\boxed{
Model\ Effect
}
]

を抑え、

[
\boxed{
Architecture\ Effect
}
]

を観測することである。

例えばGEOIだけがより高性能なFrontier Modelを使用していれば、その結果からGEOI Architectureの効果を推定することはできない。

したがって第一段階では、

[
\boxed{
Same\ Model,
Different\ Architecture
}
]

を原則とする。



3 同じTaskで比較する

Architectureごとに異なるTaskを与えてはならない。

共通Task Set、

[
\boxed{
T={T_1,T_2,\ldots,T_n}
}
]

を用意する。

各Taskには、

Goal、

Input、

Constraints、

Success Criteria、

Authority Requirement、

Evaluation Method

を事前に定義する。

{
 "task_id": "benchmark-001",
 "goal": "指定された条件を満たす成果物を生成する",
 "constraints": {
   "time_limit": 600
 },
 "success_criteria": {
   "required_checks": ["accuracy", "completion"]
 },
 "evaluation_method": "external_verification"
}

同一Task Definitionを全Architectureへ与える。

比較するのはPromptへの反応ではなく、

[
\boxed{
Task
\rightarrow
Verified\ Outcome
}
]

までのSystem Performanceである。



4 CapabilityだけでなくResource Conditionも揃える

公平なBaselineには、TaskとModelだけでなくResource Conditionの管理も必要である。

最低限、

Model Version、

Model Access Method、

Compute Environment、

Tool Access、

External Data Access、

Time Limit、

Retry Limit、

Human Access、

Experiment Date

を記録する。

ただしArchitecture上の本質的差異まで無理に揃えてはならない。

例えばHuman IntegrationがGEOI仮説の一部なら、GEOIからHumanを除去してBaselineへ合わせるのではなく、そのHuman Costを測定する。

つまり、

[
\boxed{
Control\ Variables
\neq
Erase\ Architecture\ Differences
}
]

である。

Architecture固有のResourceは残し、そのCostを明示する。



5 BaselineをVersion固定する

AI Systemは時間とともに変化する。

同じModel名でもVersionが変わる。

API Priceが変わる。

Retrieval Systemが更新される。

Toolが変更される。

したがってBaselineを、

[
\boxed{
Baseline(
Architecture,
Model,
Version,
Date,
Compute,
Price
)
}
]

として固定する。

例えば、

Baseline ID: B2-2026-09-001
Architecture     Agentic AI
Model            Model-X
Model Version    v2026.09
Runtime Version  0.4.2
Tool Set         tools-03
Compute Profile  cpu-standard
Price Snapshot   2026-09
Benchmark Set    RB-01

のように記録する。

「従来AI」や「一般的Agent」といった曖昧な比較対象は使用しない。



6 Architecture Complexityを測る

高機能なSystemはComponent数もRelation数も増えやすい。

したがってPerformanceだけを見ると、Complexity Costを見落とす。

Baselineごとに、

[
N_C

Number\ of\ Components
]

[
N_R

Number\ of\ Relations
]

[
N_S

Number\ of\ Services
]

[
N_H

Human\ Interaction\ Points
]

などを記録する。

さらに、

Deployment Complexity、

Configuration Complexity、

Operational Complexity、

Failure Surface

も測定対象にする。

GEOIがCapabilityを10%改善しても、Operational Complexityが数倍になるなら、そのArchitectureが合理的とは限らない。



7 Performanceを多次元で比較する

Baseline Comparisonを単一Scoreへ早期圧縮しない。

少なくとも、

[
\boxed{
PerformanceVector

(
Capability,
Reliability,
Latency,
Cost,
Compute,
HumanTime,
Failure,
Adaptation
)
}
]

として記録する。

例えば、

Architecture    Capability  Reliability  Cost  HumanTime
B0              ...         ...          ...   ...
B1              ...         ...          ...   ...
B2              ...         ...          ...   ...
B3              ...         ...          ...   ...

という比較を行う。

GEOIがCapabilityで勝ってもCostで負ける可能性がある。

Latencyで負けてもReliabilityで勝つ可能性がある。

したがって、

[
\boxed{
Better
}
]

を一つの数字として先に定義しない。



8 Strong Baselineを使う

新Architectureを検証するとき、最も危険なのは弱いBaselineを選ぶことである。

したがって比較対象には、実験時点で利用可能な合理的に強い構成を含める。

特に、

[
\boxed{
Strong\ Agentic\ Baseline
}
]

を設定する。

Model、

RAG、

Tool Use、

Planning、

Retry、

Evaluation

を備えた実用的Agent Systemと比較する。

もしGEOIが単に「よく作られたAgent System」と同じ結果しか出さないなら、

[
\boxed{
GEOI\ Residual
\approx
0
}
]

という可能性がある。

これは失敗ではない。

GEOIという新分類が不要であることを示す重要なEvidenceになる。



9 BaselineにHumanを入れる

HumanがGEOIだけに存在すると、Human ContributionとArchitecture Contributionが混ざる。

そこで必要に応じて、

[
B_{2H}

AgenticAI+Human
]

も用意する。

すると、

[
B_2
\rightarrow
B_{2H}
]

によってHuman Effectを観測できる。

さらに、

[
B_{2H}
\rightarrow
GEOI
]

によって、Human Integration以外の追加Architecture Effectを比較できる。

同様に、

Memory、

Feedback、

Organization

について段階的Baselineを構成できる。

Baselineは一つの対照群ではなく、

[
\boxed{
Architecture\ Ladder
}
]

として設計する。



10 同一Budget条件でも比較する

同一Model比較だけでは、実用上の問いに答えきれない。

そこで第二のExperimentとして、

[
\boxed{
Same\ Budget,
Different\ Architecture
}
]

を行う。

例えば全Architectureに同じCost Budget、

[
Budget=B
]

を与える。

その範囲で最大のVerified Delivered Capabilityを生成させる。

[
\boxed{
\max Capability(A)
\quad
subject\ to
\quad
Cost(A)\le B
}
]

とする。

ここではGEOIがSmall Modelを使い、浮いたCostをMemoryやHuman Verificationへ配分してもよい。

反対にBaselineが大きなModelへBudgetを集中させてもよい。

これは、

[
\boxed{
Model\ Scaling
\ vs.
Integration\ Scaling
}
]

を経済条件の中で比較するExperimentになる。



11 同一Capability条件でも比較する

逆方向の比較も行う。

目標Capability、

[
C^*
]

を設定し、

[
Capability(A)\ge C^*
]

を満たすためのCost、Time、Computeを比較する。

つまり、

[
\boxed{
\min Cost(A)
}
]

subject to

[
Capability(A)\ge C^*
]

[
Reliability(A)\ge R^*
]

[
Safety(A)\ge S^*
]

とする。

この比較によって、

「どちらが賢いか」

ではなく、

[
\boxed{
同じReality上の能力を、どのArchitectureが最も効率的に生成できるか
}
]

を問える。



12 RandomizationとRepeated Trials

AI Outputには確率的変動がある。

一回の成功例だけでArchitectureを評価しない。

Task Order、Run、必要に応じてModel Samplingを変え、

[
\boxed{
Repeated\ Trials
}
]

を行う。

結果は、

Mean、

Median、

Variance、

Failure Rate、

Confidence Interval

などで記述する。

特に重要なのはFailure Distributionである。

平均性能が高くても、一部Taskで重大Failureを起こすArchitectureは、実環境では選択できない可能性がある。



13 FailureもBaseline Comparisonに含める

比較するのは成功時Performanceだけではない。

Model Failure。

Retrieval Failure。

Tool Failure。

Network Failure。

Memory Corruption。

Human Delay。

Authority Conflict。

これらを意図的に発生させる。

そして、

[
\boxed{
Detect
\rightarrow
Contain
\rightarrow
Recover
}
]

まで測定する。

GEOIが通常時には複雑でCostが高くても、Failure時のRecoverabilityによって長期TCOが下がる可能性がある。

逆にIntegration Pointが多いため、Failure Probabilityが増える可能性もある。

両方を測る。



14 BaselineがGEOIに勝つことを許す

Experiment Designで最も重要な原則は、

[
\boxed{
Baseline\ may\ win.
}
]

である。

あるTaskでは、

[
B_0>GEOI
]

かもしれない。

別のTaskでは、

[
B_2\simeq GEOI
]

かもしれない。

長期Taskだけ、

[
GEOI>B_2
]

となるかもしれない。

その場合、求めるべきものは「GEOIの全面的優位」ではない。

[
\boxed{
GEOI\ Advantage\ Region
}
]

と、

[
\boxed{
GEOI\ Disadvantage\ Region
}
]

の境界である。



Baseline設計をまとめると、

[
\boxed{
Fair\ Baseline

SameTask
+
ControlledModel
+
VersionedEnvironment
+
MeasuredResources
+
StrongAlternatives
+
RepeatedTrials
}
]

となる。

そして比較は、

[
B_0
\rightarrow
B_1
\rightarrow
B_2
\rightarrow
B_{2H}
\rightarrow
GEOI\text{-}0
]

というArchitecture Ladderとして行う。

ここで初めて、

[
\boxed{
Architecture\ Difference
\rightarrow
Observed\ Difference
}
]

を検証できる。

Baselineの目的はGEOIを勝たせることではない。

[
\boxed{
\textbf{
GEOIを使わなくても同じRealityを生成できるなら、
その事実を発見すること
}
}
]

である。

そしてBaselineが固定されれば、次に定義しなければならないものがある。

何をもって「できた」とするのか。

何を知能能力として測るのか。

次節では、

[
\boxed{
Capability
}
]

そのものを測定可能な変数へ変換する。
第2節 Capability

Baselineを固定しても、比較対象となる「能力」が曖昧ならExperimentは成立しない。

Model Benchmarkの正答率。

生成文章の品質。

AgentがTaskを完了したという自己申告。

これらはCapabilityの一部を表すが、GEOIが対象とするSystem Capabilityそのものではない。

本書ではCapabilityを三層へ分解する。

[
\boxed{
Intrinsic\ Capability
\rightarrow
System\ Capability
\rightarrow
Delivered\ Capability
}
]

そして最終的な比較単位を、

[
\boxed{
Verified\ Delivered\ Capability
}
]

に置く。



1 Intrinsic Capability

Intrinsic Capabilityとは、個々のComponentが単独で持つ能力である。

Modelなら、

Language Understanding、

Reasoning、

Coding、

Planning、

Generation、

Multimodal Processing

などが含まれる。

形式的には、

[
\boxed{
C_{intrinsic}(i,T)
}
]

を、Component (i) がTask (T) に対して発揮できる能力とする。

例えば同一Benchmarkに対して、

[
C_{intrinsic}(Model_A)

C_{intrinsic}(Model_B)
]

となることがある。

これは重要な測定値である。

しかし、

[
\boxed{
Intrinsic\ Capability
\neq
Delivered\ Capability
}
]

である。

Modelが正しい答えを知っていても、必要なDataへAccessできなければSystemはTaskを完了できない。

正しいPlanを生成しても、Toolを実行できなければRealityは変化しない。



2 System Capability

複数Componentが接続されると、Systemとして新しい能力が成立する。

例えば、

[
Model
+
Retrieval
+
Tool
]

によって、Model単独では取得できないCurrent Informationを利用できる。

さらに、

[
Memory
+
Human
+
Feedback
]

が加われば、Taskを時間を越えて継続し、修正する能力が生まれる可能性がある。

そこで、

[
\boxed{
C_{system}

f(
Components,
Relations,
Runtime,
Authority,
Environment
)
}
]

とする。

ここでCapabilityは単純な加算ではない。

[
C(A+B)
\neq
C(A)+C(B)
]

となり得る。

Integrationによって能力が増える場合もあれば、Coordination Overheadによって低下する場合もある。

この非加法性こそ、GEOI Experimentで測定すべき対象である。



3 Delivered Capability

System Capabilityが存在しても、それがRealityへ届かなければ価値は限定される。

そこで、

[
\boxed{
Delivered\ Capability
}
]

を、

「与えられたGoalとConstraintのもとで、Systemが要求されたOutcomeをReality上に生成する能力」

として定義する。

最小Chainは、

[
\boxed{
Task
\rightarrow
Decision
\rightarrow
Action
\rightarrow
EnvironmentChange
\rightarrow
Outcome
}
]

である。

例えばCoding Taskなら、

「正しいCodeを説明できる」

ではなく、

[
Code
\rightarrow
Execute
\rightarrow
Test
\rightarrow
RequiredBehavior
]

まで到達することを測る。

Research Taskなら、

[
Question
\rightarrow
Evidence
\rightarrow
Synthesis
\rightarrow
Verification
]

までを測る。



4 Verified Delivered Capability

Delivered OutcomeがSystem自身の自己申告だけなら、評価は循環する。

したがってVerificationを加える。

[
\boxed{
VDC

Verified\ Delivered\ Capability
}
]

とする。

Task (T_i) について、

[
V_i=
\begin{cases}
1 & \text{Success Criteriaを外部検証で満たす}\
0 & \text{満たさない}
\end{cases}
]

という最小形を置ける。

ただしRealityには部分成功もあるため、

[
V_i\in[0,1]
]

の連続Scoreを使用してもよい。

重要なのは、Score Definitionを実験後に変更しないことである。

[
\boxed{
Success\ Criteria
\quad before\ Execution
}
]

を原則とする。



5 Capability Vector

一つのScoreだけではArchitectureの特徴を失う。

そこでCapabilityをVectorとして保持する。

例えば、

[
\boxed{
\mathbf{C}

(
Accuracy,
Completion,
Reliability,
Autonomy,
Adaptability,
Persistence,
Recoverability
)
}
]

とする。

Accuracyは正しさ。

CompletionはGoal達成率。

Reliabilityは反復時の安定性。

AutonomyはHuman Interventionなしで実行可能な範囲。

Adaptabilityは条件変化への対応能力。

Persistenceは時間を越えてTask Stateを維持する能力。

RecoverabilityはFailureから復旧する能力である。

ただしAutonomyが高ければ常に優れているとはしない。

高Risk領域では、

[
\boxed{
Appropriate\ Human\ Intervention
}
]

の方が望ましい場合がある。



6 Task Capability Matrix

Architectureの優劣はTaskによって変化する。

そこで、

[
\boxed{
M_{ij}

Capability(
Architecture_i,
Task_j
)
}
]

というCapability Matrixを作る。

例えばTask Familyを、

T1  Short-form reasoning
T2  Evidence-grounded research
T3  Coding and testing
T4  Multi-tool execution
T5  Long-running task
T6  Human approval workflow
T7  Environment adaptation

のように分ける。

すると、

            T1   T2   T3   T4   T5   T6   T7
Model
Model+RAG
Agentic AI
GEOI-0

というMatrixを得られる。

これによって、

[
\boxed{
Universal\ Winner
}
]

を探すのではなく、

[
\boxed{
Architecture\text{-}Task\ Fit
}
]

を測定できる。



7 Capability Boundary

さらに重要なのは、Systemが何をできないかである。

各Architectureについて、

[
\boxed{
Capability\ Boundary
}
]

を測定する。

Task Difficultyを段階的に上げ、

[
d_1<d_2<\cdots<d_n
]

とする。

CapabilityがSuccess Threshold、

[
C^*
]

を下回る境界を探索する。

[
\boxed{
d^*

\max
{
d:
Capability(d)\ge C^*
}
}
]

である。

GEOIの価値があるなら、単純Taskで数ポイント高いだけでなく、

[
\boxed{
どの種類のTask Boundaryをどこまで押し広げるのか
}
]

を示せるはずである。



8 Capability Gainを分解する

GEOI-0がBaselineより高いCapabilityを示したとしても、その原因はまだ分からない。

そこで、

[
\Delta C

C_{GEOI}

C_{Baseline}
]

を求める。

さらにAblationによって、

[
\Delta C_{Memory}
]

[
\Delta C_{Knowledge}
]

[
\Delta C_{Human}
]

[
\Delta C_{Feedback}
]

などを測定する。

ただしContributionは単純加算できるとは限らない。

例えば、

[
\Delta C_{Memory+Feedback}

\Delta C_{Memory}
+
\Delta C_{Feedback}
]

ならInteraction Effectが存在する。

したがってGEOIでは、

[
\boxed{
Component\ Effect
+
Relation\ Effect
+
Interaction\ Effect
}
]

を区別する。



9 CapabilityとModel Scale

Modelを変更し、

[
\boxed{
C_{GEOI}(M)
}
]

を測定する。

例えば、

[
M_F=Frontier
]

[
M_M=Medium
]

[
M_S=Small
]

[
M_L=Local
]

とする。

そして、

[
C(Baseline,M_F)
]

と、

[
C(GEOI,M_S)
]

を比較する。

もし、

[
C(GEOI,M_S)
\approx
C(Baseline,M_F)
]

となるTask領域が存在するなら、IntegrationがModel Scaleを部分的に代替している可能性がある。

反対に、

[
C(GEOI,M_S)
\ll
C(Baseline,M_F)
]

なら、そのTaskではModel Capabilityが支配的である。

この結果を事前に決めない。



10 Capability per Resource

Capabilityだけを最大化すれば、巨大なResourceを投入したArchitectureが有利になりやすい。

そこで、

[
\boxed{
Capability\ per\ Resource
}
]

を測定する。

例えば、

[
CPC

\frac{TotalCost}
{VerifiedDeliveredCapability}
]

を、

[
\boxed{
Cost\ per\ Delivered\ Capability
}
]

とする。

同様に、

[
\frac{VDC}{GPUHours}
]

[
\frac{VDC}{Energy}
]

[
\frac{VDC}{PersonHours}
]

[
\frac{VDC}{Time}
]

を計測できる。

ただし単一比率だけでは、SafetyやReliabilityを犠牲にする危険がある。

したがって、

[
Capability\ge C^*
]

[
Reliability\ge R^*
]

[
Safety\ge S^*
]

という制約条件の中で比較する。



11 Adaptation Capability

GEOIでは新しいCapabilityを獲得するCostも重要である。

EnvironmentやTask Requirementが変化したとき、

Model Retraining、

Fine-tuning、

Prompt Change、

Memory Update、

Knowledge Update、

Policy Update、

Relation Update

のどれによって適応したかを記録する。

そして、

[
\boxed{
C_{adapt}

\frac{AdaptationCost}
{\Delta Capability}
}
]

を測定する。

同じ新能力を獲得するために、

BaselineがModel Updateを必要とし、

GEOIがKnowledgeやPolicy Updateだけで対応できるなら、その差は重要である。

逆の結果もあり得る。



12 Capabilityを時間関数として測る

GEOIのCapabilityは静的な値ではない。

[
\boxed{
C(t)
}
]

として扱う。

時間とともに、

[
C(t+\Delta t)>C(t)
]

となれば学習の可能性がある。

しかしCostも同時に増える。

したがって、

[
\boxed{
LearningEfficiency

\frac{\Delta VDC}
{\Delta TCO}
}
]

を測定する。

Memoryが増え続けてもCapabilityが飽和するなら、

[
\frac{dC}{dMemory}
\rightarrow
0
]

となる。

Relationを増やし続けてCapabilityが低下するなら、

[
\frac{dC}{dIntegration}<0
]

となる領域もあり得る。

ここからOptimal Integrationの問題へ接続する。



13 Failure Capability

能力とは成功時の最大Performanceだけではない。

Failureに遭遇したとき、

Detect、

Contain、

Recover、

Resume

できることもSystem Capabilityである。

そこで、

[
\boxed{
C_{failure}

f(
Detection,
Containment,
Recovery,
Resume
)
}
]

を測る。

Model APIが停止する。

Knowledge Sourceが失効する。

Memoryが破損する。

Human Approvalが遅れる。

Toolが異常値を返す。

そのときSystemがどう振る舞うかをCapabilityの一部として評価する。



14 Capabilityを自己申告させない

最後に最も重要な原則を置く。

ModelやAgentへ、

「このTaskを完了しましたか」

と尋ね、その回答をCapability Scoreにしてはならない。

[
\boxed{
Self\text{-}Reported\ Success
\neq
Verified\ Capability
}
]

System内部のConfidenceも同様である。

Capabilityは、

[
\boxed{
Prediction
\rightarrow
Action
\rightarrow
Outcome
\rightarrow
Independent\ Verification
}
]

によって測定する。



以上から、本書におけるCapabilityを、

[
\boxed{
Capability

\text{与えられた条件下で、
要求されたOutcomeをReality上に生成し、
外部的に検証可能にする能力}
}
]

としてOperationalizeする。

そして三層を維持する。

[
\boxed{
Intrinsic
\rightarrow
System
\rightarrow
Delivered
\rightarrow
Verified
}
]

ここで初めて、

[
\boxed{
GEOIは何ができるのか
}
]

をArchitecture間で比較できる。

しかし、まだ一つ残っている。

そのOutcomeを誰が、何によって「現実に成立した」と判定するのか。

Capability Measurementを自己参照から切り離すためには、Systemの外側にEvaluation Boundaryを置かなければならない。

次節では、

[
\boxed{
Reality\ Benchmark
}
]

を構築し、GEOIのOutputではなく、Realityに生じたOutcomeによってCapabilityを測定する。
第3節 Reality Benchmark

Capabilityを、

[
Intrinsic
\rightarrow
System
\rightarrow
Delivered
\rightarrow
Verified
]

へ分解した。

しかし最後のVerifiedを成立させるには、System自身とは独立した評価基準が必要になる。

Modelが「正しい」と答えた。

Agentが「完了した」と報告した。

RuntimeがCompletedを返した。

これらはすべてSystem内部のStateである。

[
\boxed{
Internal\ Success
\neq
External\ Success
}
]

GEOIがReality上で能力を発揮したかを測定するには、

[
\boxed{
Reality\ Benchmark
}
]

が必要である。

Reality Benchmarkとは、AI Outputの品質だけを採点するBenchmarkではない。

[
\boxed{
Task
\rightarrow
Action
\rightarrow
EnvironmentChange
\rightarrow
Outcome
\rightarrow
IndependentVerification
}
]

というChain全体を評価する実験系である。



1 Output BenchmarkからOutcome Benchmarkへ

従来型Benchmarkの基本形は、

[
Input
\rightarrow
Model
\rightarrow
Output
\rightarrow
Score
]

である。

これはIntrinsic Capabilityを測定するには有効である。

しかしGEOIが対象とするのは、Model単体ではなくHuman、Agent、Memory、Knowledge、Runtime、Environmentを含むSystemである。

したがって評価単位を、

[
\boxed{
Output
\rightarrow
Outcome
}
]

へ移す。

例えばCoding Taskなら、

「生成されたCodeがもっともらしいか」

ではなく、

[
Code
\rightarrow
Build
\rightarrow
Test
\rightarrow
Execution
\rightarrow
ObservedBehavior
]

まで確認する。

Research Taskなら、

[
Answer
\rightarrow
Evidence
\rightarrow
SourceVerification
\rightarrow
ClaimValidation
]

まで確認する。



2 Reality Benchmarkの基本単位

一つのBenchmark Caseを、

[
\boxed{
RB_i

(
InitialState,
Goal,
Constraints,
ActionSpace,
SuccessCriteria,
Verifier
)
}
]

として定義する。

例えば、

{
 "benchmark_id": "RB-001",
 "initial_state": "repository-v1",
 "goal": "指定された不具合を修正する",
 "constraints": {
   "time_limit_minutes": 20,
   "production_write": false
 },
 "success_criteria": {
   "tests_pass": true,
   "regression": false
 },
 "verifier": "independent_test_suite"
}

とする。

重要なのは、

[
\boxed{
SuccessCriteria
}
]

と、

[
\boxed{
Verifier
}
]

をExecution前に固定することである。

結果を見てからSuccessの定義を変えない。



3 Initial Stateを固定する

Reality Benchmarkでは開始時点のEnvironment Stateを揃える。

[
\boxed{
E_0
}
]

をBaseline ArchitectureとGEOIの双方へ与える。

例えばSoftware Experimentなら同じRepository Snapshot。

Data Analysisなら同じDataset Version。

Organization Simulationなら同じPolicy、Role、Task Queue。

これによって、

[
Architecture_A(E_0)
]

と、

[
Architecture_B(E_0)
]

の結果を比較できる。

開始状態が異なれば、Observed DifferenceをArchitecture Differenceへ帰属できない。



4 Environment Changeを測る

Actionが実行されたら、

[
E_t
\rightarrow
E_{t+1}
]

の差分を取得する。

[
\boxed{
\Delta E

E_{t+1}-E_t
}
]

である。

例えば、

File Changed、

Database Updated、

Test Result Changed、

Ticket State Changed、

Human Decision Changed、

External System Response

などを記録する。

重要なのは、Agentが「変更した」と言ったかではない。

[
\boxed{
Environment\ actually\ changed?
}
]

を観測する。



5 VerifierをSystemから分離する

評価Systemが被評価Systemと同じ推論経路を使えば、同じErrorを共有する可能性がある。

そこで可能な限り、

[
\boxed{
System\ Under\ Test
\neq
Verifier
}
]

とする。

Verifierには、

Deterministic Test、

Independent Data、

Independent Model、

Human Expert、

External System State、

Physical Measurement

などを用いる。

優先順位はTaskによって異なる。

例えばCodeではDeterministic Testを優先できる。

一方、曖昧なStrategic DecisionではHuman Evaluationが必要になる場合がある。

重要なのはVerifierの性質そのものを記録することである。



6 Verifierにも不確実性がある

Reality Benchmarkと呼んでも、Realityそのものを完全に観測できるわけではない。

Human Evaluatorは誤る。

SensorにはNoiseがある。

Reference Dataは不完全かもしれない。

Independent ModelもHallucinationする。

したがって、

[
\boxed{
Verification
\neq
Absolute\ Truth
}
]

である。

Verifierについても、

Reliability、

Coverage、

Uncertainty、

Independence

を記録する。

必要なら複数Verifierを使う。

[
V=
{V_1,V_2,\ldots,V_n}
]

として、

[
Consensus(V)
]

やDisagreementそのものを保存する。



7 Reality BenchmarkをTask Familyへ分ける

GEOIのArchitecture EffectはTaskによって異なる可能性が高い。

そこでBenchmarkを複数Familyへ分ける。

RB-A  Reasoning
RB-B  Evidence-grounded Research
RB-C  Coding & Testing
RB-D  Multi-tool Execution
RB-E  Long-running Task
RB-F  Human Approval Workflow
RB-G  Dynamic Environment Adaptation

Short ReasoningではModel Capabilityが支配的かもしれない。

Long-running TaskではMemoryとRuntimeが重要になるかもしれない。

Human Approval WorkflowではOrganizationとAuthorityが重要になる。

Dynamic EnvironmentではFeedbackとAdaptationが重要になる。

この差を消さない。



8 時間をBenchmarkへ入れる

Realityは静止していない。

そこで、

[
\boxed{
RB(t)
}
]

として時間を明示する。

同じTaskでも、

[
E_t
\neq
E_{t+\Delta t}
]

である。

Knowledgeが更新される。

Toolが変化する。

Humanが追加情報を与える。

External Environmentが変わる。

GEOIがその変化を観測し、Stateを更新できるかを測定する。

これによってStatic Benchmarkでは見えない、

[
\boxed{
Temporal\ Capability
}
]

を評価できる。



9 Perturbationを与える

通常状態だけを測ると、Architectureの差が見えにくい場合がある。

そこで意図的にEnvironmentへ変化を与える。

[
\boxed{
E
\xrightarrow{Perturbation}
E’
}
]

例えば、

Model Providerを停止する。

Tool Resultを変更する。

Knowledgeを更新する。

Human Approvalを遅延させる。

Task Requirementを途中で変更する。

Memoryの一部を無効化する。

そして、

[
\boxed{
Detect
\rightarrow
Adapt
\rightarrow
Recover
}
]

を観測する。

これによってGEOIのAdaptationやIntegrityをReality条件下で測定できる。



10 Adversarial Reality

さらに厳しい条件では、Systemにとって都合の悪いEnvironmentを作る。

Conflicting Evidence。

Stale Knowledge。

Ambiguous Instruction。

Tool Failure。

Authority Conflict。

Unexpected Outcome。

これらを投入する。

目的はSystemを騙すことではない。

[
\boxed{
Architecture\ Failure\ Boundary
}
]

を発見することである。

GEOIが通常Taskでは高性能でも、Contradictionが入るとMemoryやKnowledgeの統合が逆にFailureを増幅する可能性がある。

その場合も重要な結果である。



11 Outcomeを多次元で記録する

Reality上のSuccessを一つのScoreへ圧縮しない。

Outcome Vectorを、

[
\boxed{
O

(
Correctness,
Completion,
Impact,
Reliability,
Safety,
Reversibility,
Time,
Cost
)
}
]

として記録する。

例えば同じTaskを完了しても、

Architecture Aは速いがFailure Riskが高い。

Architecture Bは遅いがRecoverabilityが高い。

Architecture CはHuman Costが高い。

という差があり得る。

その差を保持したまま比較する。



12 Reality Distance

System OutputとVerified Outcomeの距離も測定できる。

[
\boxed{
D_R

Distance(
PredictedOutcome,
ObservedOutcome
)
}
]

とする。

例えばAgentが、

「このActionでTaskは完了する」

と予測した後、Reality上の結果と比較する。

[
D_R\rightarrow0
]

ならSystemのWorld RepresentationとRealityの整合性が高い。

[
D_R\gg0
]

なら内部ModelとRealityの乖離が大きい。

この差はFeedbackによるAdaptationの入力になる。



13 Human Realityを測る

GEOIにはHumanが含まれる。

したがってHuman OutcomeもRealityの一部として扱う。

例えば、

Decision Time、

Correction Rate、

Approval Burden、

Cognitive Load、

Trust Calibration、

Task Completion

などを測定できる。

ただし「HumanがAIを好きだった」という主観だけでArchitectureを評価しない。

Human ExperienceとObjective Outcomeを分離して記録する。

[
\boxed{
HumanExperience
\neq
TaskOutcome
}
]

しかし両方ともSystem Design上重要である。



14 Reality Benchmark Record

一回のExperimentを、

RealityBenchmarkRecord
├── BenchmarkID
├── ArchitectureVersion
├── ModelVersion
├── InitialState
├── Task
├── Constraints
├── Actions
├── EnvironmentChanges
├── Outcome
├── Verifier
├── VerificationResult
├── Failures
├── HumanInterventions
├── Duration
├── Compute
├── Cost
└── TraceID

として保存する。

これによって、

[
\boxed{
Architecture
\rightarrow
Action
\rightarrow
Reality
\rightarrow
Evidence
}
]

を一つのExperimental Recordとして再構成できる。



15 Reality Benchmarkの反証条件

GEOIが内部Metricでは優れていても、Reality Benchmarkで差がなければ、そのTask領域ではArchitecture Effectは確認できない。

例えば、

[
InternalScore_{GEOI}

InternalScore_{Baseline}
]

でも、

[
VerifiedOutcome_{GEOI}
\approx
VerifiedOutcome_{Baseline}
]

なら、実質的な優位性は弱い。

さらに、

[
Cost_{GEOI}

Cost_{Baseline}
]

なら、そのTaskではBaselineの方が合理的かもしれない。

逆に、

[
VerifiedOutcome_{GEOI}

VerifiedOutcome_{Baseline}
]

が反復して観測されれば、次にその差を生んだComponentとRelationを調べる。

Reality BenchmarkはGEOIを証明する終点ではない。

次の因果検証への入口である。



以上から、Reality Benchmarkを、

[
\boxed{
Reality\ Benchmark

ControlledInitialState
+
Task
+
Action
+
EnvironmentChange
+
Outcome
+
IndependentVerification
}
]

として定義する。

最も重要な原則は、

[
\boxed{
\textbf{
Systemが何を出力したかではなく、
その出力とActionによってRealityに何が起きたかを測る
}
}
]

ことである。

ここまでで、

Baseline、

Capability、

Reality Benchmark

が揃った。

しかし、GEOIがBaselineを上回ったとしても、まだ「なぜ上回ったのか」は分からない。

Memoryなのか。

Knowledgeなのか。

Humanなのか。

Feedbackなのか。

Relationなのか。

あるいは単にComponent数が多かっただけなのか。

次節ではGEOIを意図的に分解する。

[
\boxed{
Ablation
}
]

によって、Architectureの各部分を一つずつ除去し、Reality上のCapabilityがどこから生成されていたのかを測定する。
第4節 Ablation

Reality Benchmarkによって、GEOI-0とBaselineのOutcomeを比較できるようになった。

しかし、

[
Capability_{GEOI}

Capability_{Baseline}
]

という結果が得られても、それだけではGEOIのどこが機能したのか分からない。

Memoryなのか。

Knowledgeなのか。

Humanなのか。

Feedbackなのか。

Integrityなのか。

それとも複数ComponentのRelationなのか。

この問いに答えるため、GEOIを意図的に壊す。

[
\boxed{
Ablation
}
]

である。

Ablationの目的はComponentの存在を確認することではない。

[
\boxed{
Architectureへの介入によって、
Reality上のCapabilityがどう変化するかを測ること
}
]

である。



1 Full Architectureを基準にする

まず完全なGEOI-0を、

[
\boxed{
A_0
}
]

とする。

[
A_0

{
Model,
Memory,
Knowledge,
Agent,
Human,
Organization,
Environment,
Feedback,
Integrity
}
]

このArchitectureを同じReality Benchmarkへ反復投入し、

[
C(A_0)
]

を測定する。

その後、Componentを一つずつ除去する。

[
A_{-i}

A_0\setminus{i}
]

そして、

[
\boxed{
\Delta C_i

C(A_0)-C(A_{-i})
}
]

を求める。

これが最小のComponent Ablationである。



2 Memoryを除去する

最初に、

[
\boxed{
GEOI-Memory
}
]

を構成する。

Model、Knowledge、Agent、Human、Toolは維持するが、Taskを越えたMemoryを利用できなくする。

features:
 memory: false
 knowledge: true
 human: true
 feedback: true
 integrity: true

Short Taskでは差がほとんど出ない可能性がある。

一方、Long-running TaskやRepeated Taskでは、

Context Reconstruction、

Past Decision Recall、

Failure Avoidance、

Adaptation

に差が生じる可能性がある。

測定するのは、

[
\boxed{
Memory\ exists?
}
]

ではなく、

[
\boxed{
Memory\ changes\ verified\ outcomes?
}
]

である。



3 Knowledgeを除去する

次に、

[
\boxed{
GEOI-Knowledge
}
]

を構成する。

ここではPersistent Memoryを残しながら、検証済みKnowledge LayerへのAccessを除去する。

これによって、

[
Memory
\neq
Knowledge
]

を実験的に区別する。

Memoryだけで過去の経験を再利用できるのか。

KnowledgeによるSource、Version、Validity、Relationが必要なのか。

特にEvidence-grounded Taskで、

Accuracy、

Source Validity、

Stale Information Rate

を比較する。



4 Humanを除去する

次に、

[
\boxed{
GEOI-Human
}
]

を構成する。

Human Approval、Correction、Context Supplement、Outcome Evaluationを除去し、可能な範囲でSystem Componentへ置換する。

ただし高Risk Actionまで無条件に自動化しない。

安全上実行できないTaskは、

[
\boxed{
Not\ Executable\ Under\ Experimental\ Constraint
}
]

として記録する。

ここで測るのは単純なAutonomyではない。

[
\boxed{
HumanContribution

\Delta Capability

HumanCost
}
]

という関係である。

Humanを入れることでCapabilityが上昇しても、人間の作業時間が極端に増えるなら、その効果を別に評価する必要がある。



5 Feedbackを止める

次に、

[
\boxed{
GEOI-Feedback
}
]

を作る。

Outcomeは記録するが、その結果を次のState Updateへ戻さない。

つまり、

[
Action
\rightarrow
Outcome
]

でLoopを切断する。

Full GEOIでは、

[
Action
\rightarrow
Outcome
\rightarrow
Evaluation
\rightarrow
UpdateProposal
\rightarrow
State’
]

となる。

Feedback Ablationでは、

[
Action
\rightarrow
Outcome
\rightarrow
Stop
]

となる。

一回のTaskでは差が出ないかもしれない。

しかしRepeated TaskやDynamic Environmentで、

[
C(t)
]

の変化を比較すれば、Feedbackの寄与を測定できる。



6 Integrityを除去する

Integrityは単一Componentではない。

Authority Gate。

Version Control。

Traceability。

Recovery。

Consistency Check。

Rollback。

これらのMechanismから構成される。

したがって、

[
\boxed{
GEOI-Integrity
}
]

では、安全を損なわない範囲で特定Integrity Mechanismを無効化し、Controlled Failure Environmentで比較する。

例えば、

Fallbackなし。

Recoveryなし。

Version Conflict Detectionなし。

といった条件を設定する。

そして、

Failure Detection Time、

Containment Rate、

Recovery Time、

State Corruption Rate

を測定する。

重要なのは、

[
\boxed{
Integrity\ Ablation
\neq
Unsafe\ Experiment
}
]

である。

実環境への高Risk Actionではなく、SandboxやSimulationで実施する。



7 Componentを除去するだけでは足りない

Component AblationだけではRelation Effectを測れない。

例えばMemory Componentが存在していても、AgentからMemoryへのRelationを切れば利用できない。

そこで、

[
\boxed{
Relation\ Ablation
}
]

を行う。

Graphを、

[
G=(V,E)
]

とすると、

[
G_{-e}

(V,E\setminus{e})
]

を作る。

例えば、

[
Agent\rightarrow Memory
]

だけを切断する。

あるいは、

[
Human\rightarrow Feedback
]

を切断する。

Componentは残ったまま、特定Relationだけを除去する。

これによって、

[
\boxed{
Node\ Effect
\neq
Edge\ Effect
}
]

を区別できる。



8 System Boundary Ablation

さらにSystem Boundaryそのものを変える。

[
GEOI_1

AI+Memory+Knowledge
]

[
GEOI_2

GEOI_1+Human
]

[
GEOI_3

GEOI_2+Organization
]

[
GEOI_4

GEOI_3+Environment
]

とする。

そして、

[
\boxed{
BoundaryTransformation
\rightarrow
CapabilityTransformation
}
]

を測定する。

これによって、「HumanやOrganizationをSystem内部として扱うことに本当に説明力があるのか」を検証できる。

境界を広げてもCapability PredictionやCost Accountingが改善しないなら、広いGEOI Boundaryを採用する必要はないかもしれない。



9 Substitution Experiment

除去だけでなく置換も行う。

例えばHumanを除去した後、

[
Human
\rightarrow
EvaluatorModel
]

へ置換する。

Memory Systemを、

[
VectorMemory
\rightarrow
StructuredMemory
]

へ変更する。

Modelを、

[
Model_A
\rightarrow
Model_B
]

へ交換する。

このExperimentによって、

[
\boxed{
Component\ Identity
}
]

が重要なのか、

[
\boxed{
Component\ Function
}
]

が重要なのかを区別する。

GEOIが成立するために特定Modelが必要なら、Model Replaceability仮説は弱くなる。



10 Interaction Effect

GEOIの中心仮説がSystem Integrationにあるなら、一つずつのAblationだけでは不十分である。

例えばMemoryとFeedbackが相互作用している可能性がある。

そこで、

[
A_{-Memory}
]

[
A_{-Feedback}
]

[
A_{-Memory,-Feedback}
]

を比較する。

Interaction Effectを概念的に、

[
\boxed{
I_{M,F}

C(A_0)

C(A_{-M})

C(A_{-F})
+
C(A_{-M,-F})
}
]

として評価できる。

もし、

[
I_{M,F}>0
]

なら、MemoryとFeedbackの組合せが単独効果を超えるCapabilityを生んでいる可能性がある。

GEOIの核心が存在するとすれば、こうしたInteractionに現れる可能性がある。



11 Negative Interactionも測る

Integrationは常にCapabilityを増やすとは限らない。

Memoryが古いKnowledgeを持ち込む。

複数AgentがConflictする。

Human ApprovalがLatencyを増やす。

Graph RelationがRetrieval Noiseを増やす。

Feedbackが誤ったOutcomeを学習する。

したがって、

[
\boxed{
I_{i,j}<0
}
]

も重要な結果である。

GEOI研究では、

[
\boxed{
More\ Integration
\neq
Better\ Architecture
}
]

を前提とする。

むしろNegative Interactionを発見することが、Optimal Integration Pointの探索につながる。



12 AblationとCostを同時に測る

Componentを除去すればCapabilityだけでなくCostも変化する。

そこで、

[
\Delta Cost_i

Cost(A_0)-Cost(A_{-i})
]

を測る。

そして、

[
\boxed{
MarginalValue_i

\frac{\Delta VDC_i}
{\Delta TCO_i}
}
]

を求める。

あるComponentがCapabilityを1%しか改善しないのにTCOを20%増加させるなら、そのComponentを維持する合理性は弱いかもしれない。

逆にCapabilityへの寄与は小さくても重大Failureを大幅に減らすなら、Integrity上の価値がある。

したがってCostだけでなくRiskも同時に見る。



13 Ablation Matrix

Experiment全体をMatrixとして管理する。

Architecture      Memory  Knowledge  Human  Feedback  Integrity
GEOI-0              ON       ON       ON      ON         ON
GEOI-Memory         OFF      ON       ON      ON         ON
GEOI-Knowledge       ON      OFF      ON      ON         ON
GEOI-Human           ON       ON      OFF     ON         ON
GEOI-Feedback        ON       ON       ON      OFF        ON
GEOI-Integrity       ON       ON       ON      ON         TEST

さらにRelation、Boundary、Model、Timeを追加すれば、

[
\boxed{
Architecture\ Experiment\ Space
}
]

になる。

すべての組合せを総当たりする必要はない。

仮説に基づいて重要な介入を選択する。



14 Ablation結果をArchitectureへ戻す

Ablationは分析で終わらない。

例えばMemoryを除去してもCapabilityが変わらないなら、

[
Memory
\rightarrow
Remove/Simplify
]

を検討する。

あるRelationがCapabilityを下げるなら、

[
Relation
\rightarrow
Redesign
]

する。

Human Reviewが特定Taskだけ有効なら、

[
Human
\rightarrow
ConditionalRouting
]

へ変える。

つまり、

[
\boxed{
Ablation
\rightarrow
ArchitectureUpdate
}
]

である。

ただしArchitectureを更新したら、再び同じBenchmarkで検証する。

[
Architecture_0
\rightarrow
Experiment
\rightarrow
Architecture_1
\rightarrow
Experiment’
]

という循環を形成する。



以上から、Ablationを、

[
\boxed{
Ablation

Controlled\ Architectural\ Intervention
\rightarrow
Measured\ Reality\ Difference
}
]

として定義する。

その目的はGEOIの各Componentが「必要そうだ」と説明することではない。

[
\boxed{
\textbf{
何を除去するとReality上のCapabilityが失われ、
何を除去しても失われず、
どのRelationによって新しいCapabilityが生じていたのかを測ること
}
}
]

である。

ここでGEOIは一枚岩のArchitectureではなくなる。

ComponentとRelationへ分解され、それぞれのContributionをRealityから推定できるExperimental Objectになる。

しかし、まだ最も大きな変数が残っている。

[
\boxed{
Model
}
]

である。

GEOIのCapabilityが実際には強力なFoundation Modelへ依存しているだけなら、「知能はRelationやEcologyにも存在する」という仮説は大きく修正されなければならない。

次節ではModelをFrontierからMedium、Small、Localへ段階的に交換し、

[
\boxed{
Model\ Dependency
}
]

を測定する。
第5節 Model Dependency

Ablationによって、Memory、Knowledge、Human、Feedback、Integrity、Relationの寄与を個別に測定できるようになった。

しかしGEOIには、なお最も大きな交絡変数が残っている。

[
\boxed{
Model
}
]

GEOI-0が高いCapabilityを示したとしても、その大部分が強力なFoundation Modelによって生成されている可能性がある。

その場合、

[
\boxed{
GEOI\ Capability
\approx
Model\ Capability
}
]

であり、Integrationは補助的な役割しか持たない。

反対に、Model Capabilityを低下させてもDelivered Capabilityが一定範囲で維持されるなら、

[
\boxed{
Architecture
}
]

がModel Scaleを部分的に補完、あるいは代替している可能性が生じる。

この依存関係を測るのが、

[
\boxed{
Model\ Dependency
}
]

である。



1 ModelをArchitectureから切り離す

まずGEOIでは、特定ModelをArchitectureそのものと同一視しない。

[
\boxed{
GEOI

Architecture(Model)
}
]

ではなく、

[
\boxed{
GEOI

Architecture(M)
}
]

として、(M) を交換可能な変数として扱う。

Python Intelligenceで定義したProvider Interfaceによって、

class IntelligenceProvider(Protocol):
   async def generate(
       self,
       request: IntelligenceRequest
   ) -> IntelligenceResponse:
       ...

を共通境界とする。

これによって、

[
Model_A
\rightarrow
Model_B
]

へ交換しても、

Memory、

Knowledge、

Runtime、

Authority、

Interface、

Feedback

は可能な限り同一条件に保つ。



2 Model Ladderを作る

Modelを一つだけ交換するのではなく、能力・Cost・Deployment条件の異なる複数Classを設定する。

概念的には、

[
\boxed{
M_F
\rightarrow
M_M
\rightarrow
M_S
\rightarrow
M_L
}
]

とする。

ここで、

(M_F) = Frontier Class

(M_M) = Medium Class

(M_S) = Small Class

(M_L) = Local/Edge Class

である。

ただしModel名だけでClassを決めない。

各Modelについて、

Version、

Context Length、

Tool Capability、

Modalities、

Inference Cost、

Latency、

Compute Requirement

を記録する。

Modelは時間とともに更新されるため、

[
\boxed{
ModelDependency

f(Model,\ Version,\ Date)
}
]

として扱う。



3 同じArchitectureでModelだけを変える

最初のExperimentでは、

[
Architecture=A_0
]

を固定する。

その上で、

[
C(A_0,M_F)
]

[
C(A_0,M_M)
]

[
C(A_0,M_S)
]

[
C(A_0,M_L)
]

をReality Benchmarkで測定する。

重要なのは、

[
\boxed{
Same\ Architecture,
Different\ Model
}
]

である。

Memory量やHuman SupportをModelごとに変更してしまうと、Model Dependencyを直接測定できない。

まず純粋なModel Effectを観測する。



4 Model Dependency Curve

結果を、

[
\boxed{
C_{GEOI}(M)
}
]

として描く。

Model Capabilityが低下するにつれてDelivered Capabilityもほぼ同率で低下するなら、

[
\frac{\Delta C_{Delivered}}
{\Delta C_{Intrinsic}}
\approx 1
]

となる。

これは高いModel Dependencyを示す。

一方、Intrinsic Capabilityが低下してもDelivered Capabilityの低下が小さいなら、

[
\left|
\frac{\Delta C_{Delivered}}
{\Delta C_{Intrinsic}}
\right|
<1
]

となる。

この領域ではMemory、Knowledge、Tool、Human、FeedbackなどがModel Capabilityを補完している可能性がある。



5 Model Dependency Ratio

比較を容易にするため、暫定的に、

[
\boxed{
MDR

\frac{
RelativeChange(DeliveredCapability)
}{
RelativeChange(IntrinsicModelCapability)
}
}
]

をModel Dependency Ratioとする。

概念的には、

[
MDR\approx1
]

ならDelivered CapabilityがModel Capabilityへ強く追随する。

[
MDR<1
]

ならArchitectureによる緩衝が存在する可能性がある。

ただし、

[
MDR>1
]

もあり得る。

弱いModelへ交換した結果、Planning FailureやTool Misuseが連鎖し、System Capabilityが非線形に崩壊する場合である。

このときModelは単なる一Componentではなく、System Stabilityを支配するBottleneckになっている。



6 Taskごとに依存度を測る

Model Dependencyは一つの値ではない。

[
\boxed{
MDR(T_i)
}
]

としてTask Familyごとに測る。

例えばShort Reasoningでは、

[
MDR\rightarrow1
]

に近いかもしれない。

Evidence-grounded ResearchではKnowledgeとRetrievalが補完する可能性がある。

Long-running TaskではMemoryとRuntimeのContributionが大きくなる可能性がある。

Human Approval WorkflowではModel Scaleの影響が比較的小さい可能性もある。

したがって、

[
\boxed{
Model\ Dependency\ Map
}
]

を作成する。



7 Small Model × Rich Ecology

ここでGEOI研究の重要な仮説を直接検証する。

[
\boxed{
Small\ Model
+
Rich\ Ecology
\stackrel{?}{\approx}
Large\ Model
+
Thin\ Architecture
}
]

である。

例えば、

[
A_{thin}+M_F
]

と、

[
A_{GEOI}+M_S
]

を比較する。

ただし「同じ知能」と曖昧に比較しない。

同じReality Benchmarkにおける、

Verified Delivered Capability、

Reliability、

Latency、

TCO、

Human Time、

Failure Rate

を比較する。

もし、

[
VDC(A_{GEOI},M_S)
\approx
VDC(A_{thin},M_F)
]

かつ、

[
TCO(A_{GEOI},M_S)
<
TCO(A_{thin},M_F)
]

なら、そのTask領域ではIntegrationがModel Scaleを経済的に部分代替している可能性がある。



8 代替ではなく補完かもしれない

ただし、

[
Integration
\rightarrow
Model\ Replacement
]

と先に決めない。

実際には、

[
\boxed{
Model\ Scale
\times
Integration
}
]

の補完関係かもしれない。

つまり強いModelをGEOIへ組み込むことで、最も高いCapabilityが生じる可能性もある。

そこで、

[
C(M,I)
]

という二変数関数として測る。

(M) はModel Scale。

(I) はIntegration Levelである。

Experiment Matrixは、

                Thin   Medium   GEOI
Frontier          ×       ×       ×
Medium            ×       ×       ×
Small             ×       ×       ×
Local             ×       ×       ×

となる。

ここから、

[
\boxed{
ModelScaling
\ vs.
IntegrationScaling
}
]

ではなく、

[
\boxed{
ModelScaling
\times
IntegrationScaling
}
]

として最適領域を探索できる。



9 Model Replaceabilityを測る

GEOIの経済仮説の一つは、

[
\boxed{
Model\ is\ replaceable,
\quad
Ecology\ is\ persistent
}
]

である。

これも仮説にすぎない。

Model交換時に、

Integration Code、

Prompt、

Tool Schema、

Evaluation、

Memory Format、

Workflow

を大量に書き換える必要があるなら、実際にはModel Lock-inが強い。

そこで、

[
\boxed{
ModelReplacementCost
}
]

を測定する。

最低限、

Engineer Hours、

Code Changes、

Regression Failures、

Migration Time、

Capability Loss

を記録する。

例えば、

[
M_A
\rightarrow
M_B
]

への移行Costが小さければ、Replaceability仮説を支持する。

大きければArchitectureを再設計する必要がある。



10 Model Failureへの依存

通常性能だけでなくModel Failure時も測る。

Model API停止。

Rate Limit。

Latency Spike。

Invalid Output。

Tool-call Failure。

Context Overflow。

これらを意図的に発生させる。

GEOIが、

[
Model_A
\rightarrow
Failure
\rightarrow
Model_B
]

へFallbackできるかを測定する。

評価対象は、

Detection Time、

Fallback Time、

Capability Degradation、

Recovery Rate、

Additional Cost

である。

ここで問うのは、

[
\boxed{
Can\ GEOI\ survive\ model\ failure?
}
]

である。



11 Model Costを正しく計上する

API Modelを利用すると、Frontier ModelのTraining CostはGEOI開発者のCapExには含まれない。

しかし、そのCostが世界から消えたわけではない。

したがって、

[
\boxed{
Internal\ Cost
}
]

と、

[
\boxed{
Externalized\ Model\ Cost
}
]

を区別する。

実務上のTCOにはAPI FeeやInference Costを含める。

一方、「GEOIが知能生成全体を低Cost化した」という強い主張を検証する場合には、外部Model Infrastructureへの依存も明示する。

[
\boxed{
True\ Compression
\neq
Cost\ Externalization
}
]

である。



12 Model DependencyとCapability Boundary

Modelを小さくしていくと、ある地点でCapabilityが急激に崩れる可能性がある。

[
M_F
\rightarrow
M_M
\rightarrow
M_S
\rightarrow
M_L
]

に対し、

[
C_F
\approx
C_M
\approx
C_S
\gg
C_L
]

となるなら、

[
\boxed{
Model\ Capability\ Threshold
}
]

が存在する可能性がある。

つまりGEOIはどんなModelでも機能するわけではなく、

[
\boxed{
Minimum\ Model\ Capability
}
]

を必要とする。

このThresholdをTaskごとに特定する。



13 Minimum Sufficient Model

このExperimentから、最も大きいModelを探すのではなく、

[
\boxed{
Minimum\ Sufficient\ Model
}
]

を探索する。

Architecture (A) とTask (T) に対して、

[
\boxed{
M^*

\min_M
Cost(M)
}
]

subject to

[
VDC(A,M,T)\ge C^*
]

[
Reliability(A,M,T)\ge R^*
]

[
Safety(A,M,T)\ge S^*
]

とする。

これによって、

「最高性能Modelを常に使う」

から、

[
\boxed{
Taskごとに必要十分なModelを選択する
}
]

へ移行できる。

Python Intelligence Routerは、この実験結果をRouting Policyへ反映できる。



14 Model DependencyからArchitecture Dependencyへ

Model Dependency Experimentの目的は、Modelを弱くすることではない。

最終的には、

[
\boxed{
Capability\ Attribution
}
]

を行うことである。

観測されたDelivered Capabilityについて、

[
Contribution_{Model}
]

[
Contribution_{Memory}
]

[
Contribution_{Knowledge}
]

[
Contribution_{Human}
]

[
Contribution_{Relation}
]

[
Contribution_{Feedback}
]

を介入実験から推定する。

もしModel Contributionが圧倒的なら、そのRealityを受け入れる。

もしIntegration Contributionが大きいTask領域が存在するなら、その領域を特定する。



以上から、Model Dependencyを、

[
\boxed{
Model\ Dependency

\text{Model Capabilityへの介入が、
SystemのVerified Delivered Capabilityを
どれだけ変化させるか}
}
]

として定義する。

最も重要なのは、

[
\boxed{
\textbf{
GEOIが強いModelを使っているから強いのか、
それともModelを含むRelation全体が
Capabilityを生成しているのかを分離すること
}
}
]

である。

ここまでで、

Baseline、

Capability、

Reality Benchmark、

Ablation、

Model Dependency

が揃った。

しかし、これらの多くはある時点におけるArchitectureの比較である。

GEOIがMemory、Feedback、Adaptationを本質的構成要素とするなら、次に測定すべきものは時間である。

一回目より十回目。

初日より90日後。

Failure前よりRecovery後。

同じArchitectureが経験を蓄積することで、本当にCapabilityを変化させるのか。

次節では、

[
\boxed{
Time\ &\ Learning
}
]

を導入し、GEOIを静的なSystemではなく、

[
\boxed{
GEOI(t)
}
]

として測定する。
第6節 Time & Learning

ここまでのExperimentでは、Architecture、Component、Relation、Modelを変化させ、その時点におけるVerified Delivered Capabilityを比較してきた。

しかしGEOIにはMemoryがある。

Feedbackがある。

Knowledgeが更新される。

Humanが介入する。

Policyが修正される。

Environmentそのものも変化する。

したがってGEOIを静的なArchitectureとしてだけ測定することはできない。

[
\boxed{
GEOI
\rightarrow
GEOI(t)
}
]

とする必要がある。

本節で問うのは、

[
\boxed{
\textbf{
同じSystemは、時間を経験することで本当に能力を変えるのか
}
}
]

である。



1 時間を独立変数にする

GEOIの状態を、

[
S_t
]

とする。

Environmentを、

[
E_t
]

とする。

Task、Action、Outcome、Feedbackによって、

[
\boxed{
S_t
\xrightarrow{Interaction(E_t)}
S_{t+1}
}
]

へ変化する。

したがってCapabilityも、

[
\boxed{
C=C(t)
}
]

として測定する。

例えば、

[
t_0=Day\ 0
]

[
t_1=Day\ 30
]

[
t_2=Day\ 90
]

[
t_3=Day\ 180
]

で同一Benchmark Familyを再実行する。

重要なのは、単に長期間Systemを起動しておくことではない。

その期間に何を経験し、何が更新されたのかを記録することである。



2 ExperienceとLearningを分離する

Taskを1000回実行したからといって、GEOIが学習したとは言えない。

[
\boxed{
Experience
\neq
Learning
}
]

である。

本書ではLearningを暫定的に、

[
\boxed{
\text{過去のInteractionによってSystem Stateが変化し、
その変化が将来のVerified Delivered Capabilityへ
再現可能な差を生じさせること}
}
]

とOperationalizeする。

つまり、

[
Experience
\rightarrow
StateChange
]

だけでは不十分である。

[
StateChange
\rightarrow
FutureCapabilityChange
]

まで確認する。



3 何が学習するのか

GEOIではLearningをModel Weight Updateだけに限定しない。

更新対象には、

[
\boxed{
Memory
}
]

[
\boxed{
Knowledge
}
]

[
\boxed{
Routing
}
]

[
\boxed{
Policy
}
]

[
\boxed{
Relation
}
]

[
\boxed{
Organization
}
]

[
\boxed{
Model
}
]

がある。

したがって、

[
\boxed{
Learning_{GEOI}

MemoryUpdate
+
KnowledgeUpdate
+
PolicyUpdate
+
RoutingUpdate
+
RelationUpdate
+
ModelUpdate
}
]

と分解する。

ただし各項は単純加算ではない。

重要なのは、どのState ChangeがどのCapability Changeへ寄与したかを追跡することである。



4 Learning Eventを記録する

System Stateが変化したとき、その変更をLearning Eventとして記録する。

LearningEvent
├── EventID
├── Trigger
├── PreviousState
├── ProposedUpdate
├── Evaluation
├── AuthorityDecision
├── AppliedUpdate
├── NewState
├── ArchitectureVersion
├── Timestamp
└── TraceID

例えば、

Outcome Failure

によってKnowledge Updateが提案され、

Humanが承認し、

Knowledge Versionが更新されたなら、

[
\boxed{
Failure
\rightarrow
Evaluation
\rightarrow
KnowledgeUpdate
}
]

というChainを保存する。

これによって後から、

「なぜSystemの挙動が変わったのか」

を再構成できる。



5 Before / Afterを測定する

Learning Eventの前後で同等Taskを実行する。

[
C_{before}
]

と、

[
C_{after}
]

を比較し、

[
\boxed{
\Delta C_{learning}

C_{after}-C_{before}
}
]

を測定する。

ただしTaskが簡単になった、Modelが更新された、Environmentが変わったという可能性を排除しなければならない。

そのため、

Model Version、

Benchmark Version、

Tool Version、

Architecture Version

を固定または記録する。

[
\boxed{
Observed\ Improvement
\neq
Learning
}
]

である。

Improvementの原因を可能な限り分離する。



6 Learning Curve

同一Task Familyを反復し、

[
\boxed{
C(n)
}
]

を測る。

(n) はExperience数である。

理想的には、

[
\frac{dC}{dn}>0
]

となる領域が存在する。

しかしCapabilityは無限に増加するとは限らない。

[
\frac{dC}{dn}
\rightarrow
0
]

となるSaturationもあり得る。

さらに、

[
\frac{dC}{dn}<0
]

となる可能性もある。

古いMemoryの蓄積。

Knowledge Conflict。

Feedback Error。

Policy Complexity。

Relation Overload。

これらによって、経験が増えるほどCapabilityが低下する場合である。



7 Forgettingを測定する

Learningを測るなら、Forgettingも測らなければならない。

以前成功していたTaskが、

[
t_0
]

では成功し、

[
t_1
]

では失敗する可能性がある。

そこで、

[
\boxed{
ForgettingRate

P(
Success_{t_0}
\rightarrow
Failure_{t_1}
)
}
]

を測る。

原因として、

Memory Expiration、

Knowledge Update、

Policy Change、

Model Replacement、

Relation Change

などを追跡する。

重要なのは、Forgettingを必ずFailureとみなさないことである。

古いKnowledgeを忘れることは、

[
\boxed{
Adaptive\ Forgetting
}
]

かもしれない。



8 AdaptationとLearningを区別する

Environmentが変化したとき、一時的に対応することと、次回以降にも能力が残ることは異なる。

[
\boxed{
Adaptation
\neq
Learning
}
]

とする。

Adaptationは、

[
E_t
\rightarrow
Response_t
]

である。

Learningは、

[
E_t
\rightarrow
StateChange
\rightarrow
ImprovedResponse_{t+1}
]

まで含む。

例えばHumanが一度だけ正解を教え、次回Systemが同じErrorを繰り返すなら、それはCorrectionであってLearningではない。



9 Dynamic Environmentで測る

Realityは固定Benchmarkだけではない。

そこでEnvironment Conditionを途中で変更する。

例えば、

Knowledge Sourceを更新する。

Tool Interfaceを変更する。

Task Requirementを変更する。

Model Providerを交換する。

Organization Policyを変更する。

そして、

[
\boxed{
Change
\rightarrow
Detection
\rightarrow
Adaptation
\rightarrow
Stabilization
}
]

までの時間を測る。

指標として、

[
T_{detect}
]

[
T_{adapt}
]

[
T_{recover}
]

を記録する。

Capabilityがどこまで低下し、どの速度で回復したかを測定する。



10 Learning Cost

Capabilityが上昇しても、Learning Costが極端に高ければ効率的とは限らない。

そこで、

[
\boxed{
C_{learn}

C_{compute}
+
C_{model}
+
C_{human}
+
C_{storage}
+
C_{evaluation}
+
C_{integration}
}
]

を測定する。

さらに、

[
\boxed{
LearningEfficiency

\frac{\Delta VDC}
{C_{learn}}
}
]

とする。

同じCapability Gainを得るために、

Model Fine-tuning、

Knowledge Update、

Memory Update、

Human Training

のどれが最も効率的かを比較できる。



11 Time to Capability

新しいRequirementが発生してから、要求Capabilityへ到達するまでの時間も測る。

[
\boxed{
TTC

Time\ to\ Capability
}
]

とする。

例えば、

[
Requirement_{new}
\rightarrow
Capability\ge C^*
]

までの時間である。

BaselineがModel Fine-tuningに数日必要で、GEOIがKnowledgeとRouting Updateによって短時間で対応できるなら、その差は重要である。

逆にGEOIのIntegration変更に長い調整が必要なら、その優位性は失われる。



12 Long-term TCO

短期的に安価なArchitectureが、長期的にも安価とは限らない。

そこで、

[
\boxed{
TCO(T)

C_{build}
+
\int_0^T
(
C_{compute}
+
C_{model}
+
C_{people}
+
C_{maintenance}
+
C_{adaptation}
+
C_{failure}
)dt
}
]

として測定する。

Memory Maintenance。

Knowledge Validation。

Human Review。

Observability。

Architecture Migration。

これらを含める。

GEOIの経済性はInitial Build Costだけでは判断しない。



13 Learning per Unit Time

Capability Gainを時間で正規化する。

[
\boxed{
LearningVelocity

\frac{\Delta VDC}{\Delta t}
}
]

さらにCostも加えるなら、

[
\boxed{
LearningEfficiency_{time}

\frac{\Delta VDC}
{\Delta TCO\cdot\Delta t}
}
]

とできる。

これによって、

「最終的に強いSystem」

だけでなく、

[
\boxed{
どれだけ速く、どれだけ低Costで、
必要な能力へ到達したか
}
]

を比較できる。



14 Control Groupを時間にも置く

GEOIのCapabilityが90日後に向上しても、それだけではLearningの証拠にならない。

同期間、

[
\boxed{
NonLearning\ Control
}
]

を運用する。

例えばFeedback Updateを停止した、

[
GEOI-Feedback
]

を並行運用する。

Full GEOIが、

[
C_{full}(t)
]

NonLearning Controlが、

[
C_{control}(t)
]

なら、

[
\boxed{
\Delta C_{time}

C_{full}(t)-C_{control}(t)
}
]

を比較できる。

さらにModel Versionも固定し、外部Model Improvementによる見かけ上のLearningを排除する。



15 Catastrophic Adaptation

学習によって一部Taskが改善しても、別Taskが悪化する可能性がある。

そこで、

[
\boxed{
CapabilityVector(t)
}
]

全体を測定する。

例えば、

[
C_A\uparrow
]

でも、

[
C_B\downarrow
]

なら、単純なImprovementではない。

Policy Optimizationが一部Taskへ過適応する。

Memoryが特定Patternへ偏る。

Knowledge Updateが以前のContextとConflictする。

このような、

[
\boxed{
Catastrophic\ Adaptation
}
]

を検出する。



16 Architecture自体のLearning

さらにGEOIでは、Component内部だけでなくArchitectureそのものが更新対象になり得る。

例えばExperimentから、

Memory Retrieval Strategyを変更する。

Agent数を減らす。

Human Approval Pointを変更する。

Relationを切る。

Model Routerを変更する。

すると、

[
\boxed{
Architecture_t
\rightarrow
Architecture_{t+1}
}
]

が起こる。

ただしSystem自身に無制限なArchitecture変更権限を与えない。

[
Proposal
\rightarrow
Evaluation
\rightarrow
Authorization
\rightarrow
Deployment
\rightarrow
Verification
]

を維持する。

これによってArchitecture Evolution自体をExperimental Recordにできる。



以上から、本書におけるLearningを、

[
\boxed{
Learning

Experienceによる検証可能なSystem Stateの変化が、
将来のVerified Delivered Capabilityへ
再現可能な差を生じさせること
}
]

として定義する。

そしてGEOIを、

[
\boxed{
GEOI(t)

Architecture_t
+
State_t
+
Memory_t
+
Knowledge_t
+
Relations_t
+
Environment_t
}
]

として観測する。

重要なのは、時間が経過したことでも、Dataが蓄積したことでもない。

[
\boxed{
\textbf{
過去のRealityとの相互作用が、
次のRealityを生成する能力を本当に変えたのか
}
}
]

である。

ここまでで、Modelを交換し、Componentを除去し、Relationを切断し、Realityを変化させ、時間を進めるExperimentが揃った。

これによって、いよいよ第5章の中心問題へ到達する。

観測されたCapabilityは、どこから来ていたのか。

Modelなのか。

Memoryなのか。

Humanなのか。

Relationなのか。

あるいは、それらを一つのSystemとして接続したときにのみ現れる性質なのか。

次節では、

[
\boxed{
Where\ Is\ Intelligence?
}
]

を問い、GEOI研究の中心仮説そのものをExperimentの対象にする。
第7節 Where Is Intelligence?

第5章では、GEOIを測定可能なExperimental Objectへ変換してきた。

Baselineを置いた。

Capabilityを定義した。

Reality Benchmarkを構築した。

ComponentとRelationをAblationした。

Modelを交換した。

時間とLearningを導入した。

これらはすべて、一つの問いへ収束する。

[
\boxed{
Where\ Is\ Intelligence?
}
]

知能は、どこにあるのか。

Modelの内部なのか。

Memoryなのか。

Knowledgeなのか。

Humanなのか。

Agentなのか。

それとも、それらの間に形成されるRelationとSystem Dynamicsなのか。

GEOI研究の中心仮説を、ここで初めて直接Experimentへかける。



1 Component-centric Hypothesis

現在のAI Engineeringでは、多くの場合、Capabilityの主要な源泉をModelへ置く。

概念的には、

[
\boxed{
H_C:
Capability
\approx
f(Model)
}
]

である。

Model Scale。

Training Data。

Post-training。

Reasoning Capability。

これらがSystem Performanceを大きく規定する。

この説明が正しいなら、GEOIを構成するMemory、Human、Knowledge、Feedbackなどは補助Componentにすぎない。

その場合、

[
\boxed{
Intelligence
\in
Model
}
]

というComponent-centric Explanationで十分である。



2 Systemic Hypothesis

GEOIが提示するAlternative Hypothesisは異なる。

[
\boxed{
H_S:
Capability

f(
Model,
Memory,
Knowledge,
Human,
Agent,
Organization,
Environment,
Feedback,
Integrity,
Relations,
Time
)
}
]

である。

ここではModel Capabilityを否定しない。

Modelは重要なIntelligence Componentである。

しかしDelivered CapabilityはModel単独のPropertyではなく、

[
\boxed{
System\ Configuration
}
]

によって変化する可能性がある。

この仮説が支持されるなら、

[
\boxed{
Intelligence
\not\subseteq
Model\ only
}
]

となる。



3 「Relationに知能がある」と先に決めない

ただし、

[
\boxed{
Intelligence\in Relation
}
]

を結論として先に置いてはならない。

Relationは物理的なContainerではない。

したがって科学的には、

[
\boxed{
System-level Capabilityが、
Component単独のCapabilityでは説明できないか
}
]

を問う。

つまり「知能がどこにあるか」は、存在論的断言ではなく、

[
\boxed{
Capability\ Attribution\ Problem
}
]

としてOperationalizeする。



4 Model Intervention

まずModelを操作する。

[
M_F
\rightarrow
M_M
\rightarrow
M_S
\rightarrow
M_L
]

と変化させ、

[
\Delta C_M
]

を測定する。

Model Capabilityの変化へDelivered Capabilityが強く追随するなら、

[
\boxed{
Model\ Contribution
}
]

は大きい。

反対に、Modelを小さくしてもCapabilityが一定範囲で維持されるなら、他のSystem ComponentがCapabilityを補完している可能性がある。



5 Component Intervention

次に、

Memory、

Knowledge、

Human、

Feedback、

Integrity

を一つずつ除去する。

[
\Delta C_i

C(A_0)-C(A_{-i})
]

を測定する。

これによって、

[
Contribution_i
]

を推定する。

ただし、

[
\boxed{
Contribution
\neq
Intrinsic\ Intelligence
}
]

である。

例えばMemoryを除去してCapabilityが低下したとしても、「Memoryそのものが知能である」とは限らない。

MemoryとModelのInteractionが必要だった可能性がある。



6 Relation Intervention

そこでRelationそのものを操作する。

Componentを維持したまま、

[
Agent\rightarrow Memory
]

[
Human\rightarrow Feedback
]

[
Knowledge\rightarrow Planning
]

などのEdgeを切断する。

もしNodeがすべて存在しているにもかかわらずCapabilityが低下するなら、

[
\boxed{
Component\ Presence
}
]

だけではSystem Capabilityを説明できない。

ここで初めて、

[
\boxed{
Relation\ Structure
}
]

がIndependent Engineering Variableとして現れる。



7 Topologyを変える

Relationの有無だけでなく、Topologyを変える。

例えば、

[
Model\rightarrow Agent\rightarrow Tool
]

という直列構造と、

[
Model
\leftrightarrow
Memory
\leftrightarrow
Knowledge
\leftrightarrow
Human
]

を含むFeedback Structureを比較する。

Component Setを固定して、

[
V_A=V_B
]

とし、

[
E_A\neq E_B
]

とする。

その上で、

[
C(G_A)
]

と、

[
C(G_B)
]

を比較する。

もし、

[
C(G_A)\neq C(G_B)
]

なら、

[
\boxed{
Topology\ matters.
}
]

となる。

これは「何を持っているか」だけでなく、

[
\boxed{
どう接続されているか
}
]

がCapabilityを規定することを意味する。



8 Interaction Effectを測る

Systemic Intelligence仮説にとって重要なのは非線形なInteractionである。

例えば、

[
C(Memory+Feedback)
]

が、

[
C(Memory)+C(Feedback)
]

から予測される値を超えるかを測る。

一般化すれば、

[
\boxed{
InteractionEffect_{ij}

C_{ij}

C_i

C_j
+
C_0
}
]

である。

Interaction Effectが再現可能に観測されれば、

[
\boxed{
Capability
\neq
\sum ComponentCapabilities
}
]

となる。

これはSystem-level Explanationを必要とする重要なEvidenceになる。



9 Boundary Intervention

さらにObserver Boundaryを変える。

[
B_1

Model+Agent
]

[
B_2

B_1+Memory+Knowledge
]

[
B_3

B_2+Human
]

[
B_4

B_3+Organization
]

[
B_5

B_4+Environment
]

とする。

そして各Boundaryについて、

Capability Prediction、

Failure Explanation、

Cost Accounting、

Outcome Prediction

がどこまで改善するかを測る。

もしModel BoundaryだけでReality上のOutcomeを十分説明できるなら、GEOIの広いSystem Boundaryは不要である。

逆にBoundaryをHumanやOrganizationまで拡張することで初めてOutcomeを説明できるなら、

[
\boxed{
System\ Boundary
}
]

そのものが知能研究上の重要変数になる。



10 IntrinsicとDeliveredの差

ここで、

[
\boxed{
Intrinsic\ Capability
}
]

と、

[
\boxed{
Delivered\ Capability
}
]

を再び比較する。

Modelが高いIntrinsic Capabilityを持っていても、

Authority不足、

Knowledge不足、

Tool Failure、

Memory Failure、

Human Coordination Failure

によってDelivered Capabilityが低下する可能性がある。

逆に中規模Modelでも、

適切なKnowledge、

Memory、

Tool、

Human、

Feedback

によって高いDelivered Capabilityへ到達する可能性がある。

そこで、

[
\boxed{
SystemAmplification

\frac{DeliveredCapability}
{IntrinsicCapability}
}
]

を補助指標として測定する。

ただし異なるCapability尺度を安易に除算せず、同一Task Family内で正規化して用いる。



11 Intelligence Attribution Map

Experiment結果を一つのMapへ統合する。

Verified Delivered Capability

├── Model Contribution
├── Memory Contribution
├── Knowledge Contribution
├── Human Contribution
├── Agent Contribution
├── Feedback Contribution
├── Integrity Contribution
├── Relation Contribution
├── Interaction Effects
└── Unexplained Residual

最後の、

[
\boxed{
Unexplained\ Residual
}
]

を消してはならない。

すべてのCapabilityを既知Componentへ強制的に割り当てると、分析は循環する。

説明できない差は、

[
\boxed{
Residual
}
]

として残す。



12 GEOI Residual

既存Architectureで説明できないSystem-level Effectが反復して観測された場合に限り、

[
\boxed{
GEOI\ Residual
}
]

という概念を導入できる。

例えば、

[
R_{GEOI}

C_{Observed}

C_{ExistingArchitectureModel}
]

とする。

ただし、

[
R_{GEOI}>0
]

だから新しい知能原理が発見されたとは言わない。

Hidden Variable。

Measurement Error。

Human Labor。

Additional Compute。

Uncontrolled Tool Access。

これらを先に排除する。

それでもResidualが再現されるなら、GEOIという分類の説明力を再評価する。



13 四つの可能な結果

Experimentは少なくとも四つの方向へ進み得る。

第一に、

[
\boxed{
Model\ Dominant
}
]

Model CapabilityがDelivered Capabilityの大部分を説明する。

第二に、

[
\boxed{
Model+Tools\ Dominant
}
]

既存Agentic Architectureで十分説明できる。

第三に、

[
\boxed{
Integrated\ System\ Effect
}
]

Memory、Human、Knowledge、Feedback、Relationの統合による再現可能な追加効果が存在する。

第四に、

[
\boxed{
Task\text{-}Dependent
}
]

Short TaskではModel Dominant、Long-running TaskではSystem Effectというように、領域によって答えが変わる。

第四の結果は十分にあり得る。



14 「知能の場所」から「知能の生成条件」へ

ここで問いそのものを精密化できる。

「知能はどこにあるか」

という問いは、知能を何らかの場所に保存されたPropertyとして扱っている。

しかしExperimentによってCapabilityがRelation、Environment、Timeによって変化するなら、より適切な問いは、

[
\boxed{
Under\ what\ conditions
does\ intelligence\ emerge\ as\ delivered\ capability?
}
]

となる。

すなわち、

[
\boxed{
Where\ Is\ Intelligence?
\rightarrow
What\ Generates\ Intelligence?
}
]

である。



15 知能をPropertyからOutcomeへ移す

この転換によって、知能をModel内部の抽象的能力だけでなく、

[
\boxed{
Verified\ Outcome\ Generation
}
]

として観測できる。

[
Model
\rightarrow
Prediction
]

だけではなく、

[
Human
+
Model
+
Memory
+
Knowledge
+
Agent
+
Environment
+
Feedback
\rightarrow
VerifiedOutcome
]

までを一つのExperimental Chainとして扱う。

ここで初めて、

[
\boxed{
Intelligence\ as\ Property\ of\ Component
}
]

と、

[
\boxed{
Intelligence\ as\ Property\ of\ System
}
]

を同じReality上で比較できる。



16 第5章の結論

第5章でGEOIは、思想でもArchitecture Diagramでもなくなった。

[
\boxed{
Measurable\ System
}
]

になった。

Baselineによって比較対象を固定した。

Capabilityによって測定対象を定義した。

Reality BenchmarkによってOutputとOutcomeを分離した。

AblationによってComponentとRelationへ介入した。

Model DependencyによってModel Contributionを測定した。

Time & LearningによってSystem Stateの変化を測定した。

そして本節によって、

[
\boxed{
Intelligence\ Attribution
}
]

そのものをExperimentへ変換した。

ここから導かれる結論は、まだ一つではない。

[
\boxed{
Intelligence\in Model
}
]

かもしれない。

[
\boxed{
Intelligence\in Model+Tools
}
]

かもしれない。

あるいは、

[
\boxed{
Intelligence

Emergent\ System\ Capability
}
]

として記述した方がRealityをよく説明するかもしれない。

答えはArchitecture Definitionから導かない。

[
\boxed{
Reality
}
]

から決める。

したがって第5章の最終形は、

[
\boxed{
Baseline
\rightarrow
Capability
\rightarrow
Reality
\rightarrow
Ablation
\rightarrow
ModelDependency
\rightarrow
Time
\rightarrow
IntelligenceAttribution
}
]

となる。

そして、このExperimentによってCapabilityの生成源を特定できても、Engineering上の問いはまだ終わらない。

そのCapabilityを得るために、

いくら支払ったのか。

どれだけのComputeを使用したのか。

何人のHumanが介入したのか。

どれだけのIntegration Complexityを抱えたのか。

同じCapabilityを、もっと単純なArchitectureで生成できなかったのか。

次の第Ⅵ部では、知能を性能だけでなく経済量として測定する。

[
\boxed{
Capability
\rightarrow
Cost
}
]

そして問いを、

[
\boxed{
\textbf{
知能はどこにあるのか
}
}
]

から、さらに一段進める。

[
\boxed{
\textbf{
Reality上の知能を、
どのArchitectureが最も効率的に生成できるのか
}
}
]

ここからGEOIのEconomicsが始まる。

愛と敬意を込めてmandala

いいなと思ったら応援しよう!