【Human–AI Relations 領域2】判断形成・意思決定支援 ―― 誰が情報・選択肢・推奨を作り、誰が決めたのか
Human–AI Relations 監査インデックス β
領域 2 / Domain 2
判断形成・意思決定支援 / Decision Formation・Decision Support
AIが「最後に決めていない」場合でも、判断形成へどこまで関与しているかを監査する
0. Document Status
Document Type: Domain Audit / Publication Version
Domain: Decision Formation・Decision Support・Delegation・Authority
Status: Publication Closure
Theory Status: 新しい包括的意思決定理論の提案ではない
Primary Function: AIが関与する意思決定について、情報取得・選択肢生成・推奨・最終選択・実行・責任を分離して監査する
Parent Protocol: Domain 0 — Cross-Domain Audit Protocol
本領域では、
誰が最後に決めたか
だけではなく、
その決定に至るまでの判断空間を、誰がどのように形成したか
を分析する。
1. Domain
本領域は、AIが人間の意思決定へ関与する状況において、
情報を誰が選んだか
選択肢を誰が作ったか
何が除外されたか
何が上位に提示されたか
どの評価基準が使われたか
何が推奨されたか
誰が最終選択したか
誰が実行したか
誰が変更・停止できたか
誰が結果に責任を負うか
を分離して監査する。
対象には、
Large Language Model(大規模言語モデル、LLM)
Generative AI(生成AI)
Recommender System(推薦システム)
Decision Support System(意思決定支援システム)
Predictive Model(予測モデル)
Institutional Scoring System(制度的スコアリングシステム)
Autonomous / Agentic AI(自律実行型AI / エージェント型AI)
などを含む。
これらを一つの「AI判断」として扱わない。
2. Core Question
中心問いは次である。
人間が最終的な承認・選択を行った場合、それだけで人間主導の判断形成が成立したと言えるか。
AIは最終決定者でなくても、
Information Acquisition(情報取得)
Option Generation(選択肢生成)
Filtering(絞り込み)
Ranking(順位付け)
Comparison(比較)
Evaluation(評価)
Recommendation(推奨)
Framing(情報の枠づけ)
を通じてDecision Formation(判断形成)へ関与できる。
したがって、
Final Choice(最終選択) ≠ Decision Formation(判断形成)
である。
ただし、
AIが判断形成へ関与した
≠ 人間の判断が無効になった
でもある。
本領域の目的は「AIが決めたか、人間が決めたか」という二択を作ることではない。
3. Key Distinctions
3.1 Information ≠ Advice
Information Provision(情報提供)とAdvice(助言)は分ける。
例:
「この金融商品の手数料は1.2%」
は情報提供である。
「あなたにはこの商品が適している」
は助言または推奨に近い。
3.2 Advice ≠ Recommendation
一般的な助言と、特定Optionを優先的に提示するRecommendation(推奨)は同一ではない。
複数案について長所・短所を説明することと、
「この選択肢を選ぶべき」
と順位付けすることを区別する。
3.3 Recommendation ≠ Decision
AIが推奨したことと、AIが制度的・法的・組織的にDecision(決定)を行ったことは別である。
同時に、
AIが最終決定者ではない
≠ AIの影響が小さい
でもある。
3.4 Recommendation ≠ Authority
Recommendationが強く受け入れられても、それだけでFormal Authority(形式的権限)がAIへ移転したとは言えない。
3.5 Final Choice ≠ Decision Formation
人間が最後のOptionを選んでも、
候補
情報
Ranking
Evaluation Criteria(評価基準)
Default(既定選択)
Recommendation
がAIによって形成されていた可能性がある。
3.6 Human Approval ≠ Independent Human Judgment
Human Approval(人間による承認)が存在しても、人間が独立した評価を実行したとは限らない。
3.7 Human Final Approval ≠ Human-led Decision Formation
人間が最後に承認ボタンを押したという事実だけでは、人間主導の判断形成を確立できない。
3.8 Authority ≠ Influence
Authority(権限)とInfluence(影響)は別である。
AIにFormal Authorityがなくても、人間の判断へ強いInfluenceを持つことがある。
逆に、
Strong Influence
≠ Authority Transfer
である。
3.9 Framing ≠ Neutral Presentation
同じ情報でも、利益・損失・危険・成功などの表現方法によって選択が変化することがある。
Framing(フレーミング)は中立な情報提示と同一ではない。
3.10 Ranking ≠ Neutral Ordering
表示順位も中立とは限らない。
どのOptionを先頭へ置くかによって、利用者が実際に見る情報や比較対象が変わり得る。
3.11 Personalization ≠ Best Interest
Personalization(個別最適化)は、本人のBest Interest(最善利益)と同一ではない。
Provider(提供者)が最適化している目的が、
Engagement(利用継続)
Sales(販売)
Transaction Volume(取引量)
Advertising(広告反応)
Subscription Retention(契約維持)
である可能性もある。
3.12 User Preference ≠ Informed Preference
利用者が選好を表明したことと、その選好が十分な情報・比較・熟慮を経て形成されたことは別である。
3.13 Preference Elicitation ≠ Preference Formation
Preference Elicitation(選好の抽出)とPreference Formation(選好形成)を分ける。
AIとの対話そのものが、
Goal(目標)
Priority(優先順位)
Risk Perception(リスク認知)
Preference(選好)
を変える可能性がある。
3.14 Delegation ≠ Autonomy Loss
Delegation(委任)それ自体はAutonomy Loss(自律喪失)を意味しない。
同時に、
Delegation ≠ Automatically Preserved Autonomy
でもある。
3.15 Cognitive Offloading ≠ Decision Skill Degradation
Cognitive Offloading(認知的オフローディング)は、それ自体では判断能力の低下を意味しない。
利用形態と長期Outcomeを別途測定する必要がある。
3.16 Explanation ≠ Understanding
AIがExplanation(説明)を提示しても、人間が理解したとは限らない。
3.17 Explanation ≠ Independent Evaluation
説明が存在しても、利用者がAIとは独立した評価を行ったとは限らない。
3.18 Explanation ≠ Contestability
説明を読めることと、そのDecisionへ異議を申し立て、修正や救済を求められることは別である。
Contestability(異議申立て可能性)は、Explanationとは別に監査する。
3.19 Confidence ≠ Accuracy
AIの言語表現が断定的であること、またはConfidence(確信度)が高く表示されることと、実際の正確性は同一ではない。
3.20 Decision ≠ Execution
Decisionを形成・承認した主体と、実際にAction(行動)を実行する主体は異なり得る。
3.21 Execution ≠ Responsibility
実際にクリック・送信・発注・操作した主体だけが、結果に対するResponsibility(責任)を持つとは限らない。
4. Decision Formation Audit
意思決定過程を、監査上最低限次へ分解する。
これは普遍的な心理Stage Model(段階モデル)ではない。
Feedback(フィードバック)、Iteration(反復)、Reconsideration(再検討)を伴い得る、
Audit Decomposition(監査用分解)
である。
4.1 Information Acquisition(情報取得)
どの情報が判断材料として利用可能になったか。
確認:
情報源
検索範囲
Provenance(出所)
欠落情報
情報更新時点
4.2 Option Generation(選択肢生成)
どのOptionが候補として生成されたか。
確認:
誰が候補を作ったか
人間が考えていなかったOptionが追加されたか
逆に存在するOptionが提示されなかったか
Option Diversity(選択肢の多様性)がどう変化したか
4.3 Filtering(絞り込み)
どのOptionが除外されたか。
重要なのは、
表示されなかったOptionもDecision Formationの一部
である。
4.4 Ranking(順位付け)
どのOptionが上位に表示されたか。
RankingをNeutral Ordering(中立な並び順)と仮定しない。
4.5 Comparison(比較)
何と何を比較したか。
AIによってComparison Set(比較対象集合)が限定されることがある。
4.6 Evaluation(評価)
どのCriteria(評価基準)でOptionを評価したか。
例:
Accuracy(正確性)
Price(価格)
Risk(リスク)
Convenience(利便性)
Fairness(公平性)
User Preference(本人選好)
Long-term Outcome(長期結果)
4.7 Recommendation(推奨)
どのOptionが推奨されたか。
Recommendation Strength(推奨の強さ)も記録する。
4.8 Final Selection(最終選択)
誰が最終的にOptionを選んだか。
4.9 Authorization(権限付与)
その選択を正式なActionへ移す権限を誰が持っていたか。
4.10 Execution(実行)
誰または何が実際にActionを実行したか。
5. Existing Research Traditions
本領域では新理論を先に作らず、以下の既存研究をPrior Art(先行研究)として用いる。
Decision Science(意思決定科学)
不確実性下での判断・選択。
Behavioral Decision Research(行動意思決定研究)
判断のBias(偏り)、Heuristics(ヒューリスティクス)、Framing等。
Judge–Advisor Systems(判断者―助言者システム、JAS)
初期判断、助言、最終判断を分け、助言がどれだけ取り入れられたかを研究する。
Advice Taking(助言利用研究)
他者・専門家・Algorithmic Advisor(アルゴリズム助言者)の助言が判断へどう組み込まれるかを扱う。
Choice Architecture(選択環境設計)
Default、Framing、Ordering(提示順序)、Salience(顕著性)等がChoice(選択)へ与える影響。
Human Factors(ヒューマンファクター)
Workload(作業負荷)、Situation Awareness(状況認識)、Time Pressure(時間圧)、Automation等。
Automation Bias(自動化バイアス)
Automated Decision Aid(自動意思決定支援)の出力によるOmission Error(見落とし)やCommission Error(誤った追従)。
Algorithm Aversion(アルゴリズム忌避)
AlgorithmがErrorを示した後に過少利用される条件。
Algorithm Appreciation(アルゴリズム選好)
Algorithmic AdviceがHuman Adviceより強く利用される条件。
Decision Support Systems(意思決定支援システム)
人間のDecisionを情報・分析・Recommendationによって支援する研究伝統。
Function Allocation(機能配分)
HumanとAutomationのどちらへ、どのFunction(機能)を割り当てるか。
Shared Decision-Making(共同意思決定)
医療等で本人と専門職が情報・価値・選択肢を共有してDecisionを形成する研究。
Supported Decision-Making(支援付き意思決定)
本人のLegal Capacity(法的能力)やDecision Authority(決定権限)を安易に代替せず、意思形成を支援する研究・制度的伝統。
Principal–Agent Theory(プリンシパル=エージェント理論)
委任、情報非対称性、目標不一致、Monitoring(監視)等を扱う。
Precommitment(事前拘束)
将来の自分の選択へ、本人が事前にConstraint(制約)を設定する構造。
6. AI / System Scope
本領域ではAI Systemを少なくとも次へ分ける。
Informational Assistant(情報支援AI)
検索、要約、説明を行う。
Generative AI Advisor(生成AI助言者)
自然言語で比較、助言、Recommendationを生成する。
Recommender System(推薦システム)
候補をFiltering / Rankingする。
Decision Support System(意思決定支援システム)
Prediction、Risk Score、Recommendation等を提示する。
Institutional Scoring System(制度的スコアリングシステム)
採用、信用、保険、行政等のInstitutional Decision(制度的決定)へ関与する。
Agentic AI(エージェント型AI)
Decision Formationだけでなく、一定範囲のExecutionまで行う。
同じ「AI支援」と呼ばれていても、これらのAuthority、Action Capability(実行能力)、Reversibility(可逆性)は異なる。
7. Direct AI-Specific Evidence
7.1 Human–AI Combinationは自動的にSynergy(相乗効果)にならない
Vaccaro, Almaatouq, & Malone (2024)は、106の実験から370のEffect Size(効果量)を統合したSystematic Review and Meta-analysis(系統的レビュー・メタ分析)を行った。[D2-S08]
Human–AI Combination(人間とAIの組み合わせ)は平均するとHuman Alone(人間単独)より高いPerformance(課題成績)を示した。
しかし、
Human AloneとAI AloneのうちPerformanceが高い方
をComparison Baseline(比較基準)とすると、Human–AI Combinationは平均して下回った。[D2-S08]
主要結果:
Hedges' g = -0.23
95% CI = -0.39 to -0.07
また、Decision Task(意思決定課題)ではPerformance Lossがみられ、Creation Task(生成課題)ではよりPositiveな結果がみられた。[D2-S08]
したがって、
Human + AI ≠ Automatically Best Performer
である。
これは、
Human Review(人間レビュー)が存在すればDecision Quality(意思決定品質)が自動的に改善する
という推論を支持しない。[D2-S08]
7.2 Narrative Explanationは必ずしもDecision Qualityを高めない
Lane et al.のHBS Working Paper 25-001は、Innovation Screening(イノベーション選考)におけるField Experiment(フィールド実験)を行った。[D2-S09]
228人のEvaluator(評価者)が3,002件のDecisionを行い、
Human-only Control(人間のみ)
Black-box LLM Recommendation(説明なしLLM推奨)
Narrative LLM Recommendation(自然言語説明付きLLM推奨)
を比較した。[D2-S09]
Narrative Explanation(自然言語による説明)条件では、Black-box条件よりCompliance(推奨への追従)が増えた。
さらに、LLM RecommendationがExpert Benchmark(専門家基準)と一致しないケースで、人間がAI Error(AIの誤り)を修正するProductive Override(有益な修正行動)は減少した。[D2-S09]
全体ではNarrative条件のProductive OverrideはBlack-box条件より11.9 Percentage Points低かった。
LLMがRejection(却下)を推奨したケースでは差は14.7 Percentage Pointsだった。[D2-S09]
一方、Black-box LLM条件ではHuman-onlyよりDecision Qualityの改善がみられたが、Narrative条件では同様の改善は確認されなかった。[D2-S09]
したがって安全に言えるのは、
特定の主観的評価Taskでは、自然言語説明付きAI RecommendationがComplianceを増加させる一方、AI ErrorへのProductive Overrideを減少させることがある。 [D2-S09]
である。
ただし、
Narrative Explanation generally destroys critical thinking.
とは言えない。
本SourceはWorking Paperであり、対象Taskも限定される。
7.3 Personal LLM Adviceでは高いSelf-reported Followingが観察されている
Luettgau et al.のarXiv preprint v4(2026年8月26日改訂)は、英国代表Sample(N = 6,474)を用いたLongitudinal Randomized Controlled Trial(縦断的無作為化比較試験)である。[D2-S10]
参加者は、
Health(健康)
Career(仕事・キャリア)
Relationships(人間関係)
について、
GPT-4o
Llama-3.3-70B
Gemini 3 Pro
のいずれかと20分間対話した。[D2-S10]
2〜3週間後のFollow-up(追跡調査)では、
最大79%の参加者がAI Adviceに従ったとSelf-report(自己報告)した。 [D2-S10]
High-stakes Recommendation(重大な結果を伴う推奨)でもSelf-reported Advice Followingは65%以上だった。[D2-S10]
重要なのは、
Self-reported Following ≠ Verified Actual Behavior
である。
また、
High Following ≠ Appropriate Reliance(適切な依拠)
でもある。
AI Adviceが正しかった場合と誤っていた場合でConditional Reliance(条件付き依拠)を比較しなければ、Appropriate Relianceは確立できない。
同研究では、Personal Advice条件がControl条件に比べて持続的なWell-being Benefit(幸福・心理的利益)をもたらしたとは確認されなかった。[D2-S10]
7.4 Cognitive Offloadingの利用形態は区別できる
Zhu et al. (2026)は、Generative AI利用におけるCognitive Offloadingを、
Dependent Offloading(依存的オフローディング)
Autonomous Offloading(自律的オフローディング)
へ区別した。[D2-S11]
N = 589の大学生・Early-career Knowledge Worker(若手知識労働者)を対象としたThree-wave Time-lagged Survey(3時点時間差調査)である。[D2-S11]
Dependent Offloadingは、
Perceived Cognitive Agency Transfer(主観的な認知的主体性移譲)
Lower Intrinsic Motivation(低い内発的動機づけ)
Poorer Perceived Cognitive Outcomes(より悪い主観的認知Outcome)
と関連した。[D2-S11]
Autonomous Offloadingは、よりPositiveなSelf-reported Outcomeと関連した。[D2-S11]
ただし測定されたのは、
Perceived / Self-reported Cognitive Outcomes
である。
したがって、
Dependent Offloading causes long-term skill atrophy.
とは言えない。
現時点では、
Cognitive Offloading Styleと主観的なAgency / Motivation / Cognitive OutcomeとのAssociationが観察された [D2-S11]
までが安全である。
8. Adjacent Evidence
8.1 Framing
Tversky & Kahneman (1981)は、同じDecision ProblemでもGain / Loss Frame(利益・損失の枠づけ)によってChoiceが変化し得ることを示した。[D2-S01]
これはAI以前のExisting Research Traditionである。
したがって、
Framing can affect choice. [D2-S01]
は強く支持される。
しかし、
Conversational LLM has the same framing effect size.
とは言えない。
8.2 Judge–Advisor Systems / Advice Taking
Judge–Advisor Systems(判断者―助言者システム、JAS)は、
Initial Judgment
→ Advice
→ Final Judgment
を分離する。[D2-S02]
Weight of Advice(助言重み、WOA)は、AdviceがFinal Judgmentへどれだけ反映されたかを定量化する代表的指標である。[D2-S02][D2-S03]
JASがDomain 2に与える重要な示唆は、
Advice Influenceは連続量として測れる
一方、
Advice Influence ≠ Authority Transfer
であることである。
WOAは利用状況によって0未満や1を超える値を取り得るなど、測定上の制約もあるため、単純な「AIへの服従率」として扱わない。[D2-S03]
8.3 Automation Bias
Automation Bias研究では、
Commission Error(誤作為)
誤ったAutomated Recommendationに従う。
Omission Error(不作為)
Automationが警告しなかったため、人間側も問題を見落とす。
という異なるFailure Mode(失敗様式)が研究されている。[D2-S04][D2-S05]
Automation Biasは、
Trustそのもの
ではない。
Workload、Attention(注意)、Time Pressure、Information Search Cost(情報探索コスト)等が関係する。[D2-S05]
Classic AutomationのEvidenceをLLMへ直接外挿しない。
8.4 Algorithm Aversion
Dietvorst et al. (2015)では、AlgorithmがErrorを犯す場面を見た後、人々がAlgorithmを過少利用する条件が示された。[D2-S06]
したがって、
People always overtrust algorithms.
とは言えない。
8.5 Algorithm Appreciation
Logg, Minson, & Moore (2019)では、一定のQuantitative Judgment Task(数量的判断課題)において、Algorithmic AdviceがHuman Adviceより強くWeightされる条件が示された。[D2-S07]
したがって、
Algorithm Aversion
Algorithm Appreciation
の双方が存在する。[D2-S06][D2-S07]
どちらか一方をUniversal Human Response(普遍的人間反応)としない。
9. Interpretive Link
既存Evidenceから安全に接続できるのは次である。
Observation
現在のGenerative AIは、情報提示だけでなく、
Option Generation
Comparison
Evaluation
Recommendation
Explanation
を同じConversational Interface(対話型インターフェース)内で連続して行える。
Existing Research
Decision Science、JAS、Choice Architecture、Automation Bias等は、それぞれ判断形成の一部を説明する。[D2-S01][D2-S02][D2-S03][D2-S04][D2-S05]
Direct AI Evidence
LLM Recommendation、Narrative Explanation、Personal Advice等がHuman BehaviorやSelf-reported Advice Followingを変化させる条件が実証されている。[D2-S09][D2-S10]
Interpretive Conclusion
したがってHuman–AI Decisionを監査するとき、
Final AuthorityだけではなくDecision Formation全体を見る必要がある。
ただし、
AIがDecision Formationへ関与した
→ Human Autonomyが失われた
とは推論しない。
10. Authority / Formation / Influence / Execution / Responsibility
Domain 0の5つのAnalytic Questions(分析質問)を適用する。
これは5次元Theoryではない。
Authority(権限)
誰がAccept(受容)、Reject(拒否)、Modify(変更)、Stop(停止)を決められるか。
Decision Formation(判断形成)
誰がInformation、Option、Ranking、Evaluation、Recommendationを構成したか。
Influence(影響)
AIまたはContextが実際に人間の判断を変えたEvidenceがあるか。
Exposure(接触) ≠ Influence
である。
Execution(実行)
誰または何がActionを実行したか。
Responsibility(責任)
Legal、Professional、Organizational、Operational、MoralなResponsibilityが誰へ割り当てられるか。
重要なのは、
Authority ≠ Formation
Authority ≠ Influence
Influence ≠ Execution
Execution ≠ Responsibility
である。
11. Human Final Approval
「人間が最後に承認した」を分解する。
最低限確認する。
Independent Evaluation(独立評価)を行ったか
Alternative Option(代替案)が見えていたか
Errorを検証できたか
必要なExpertise(専門性)があったか
十分なTimeがあったか
RecommendationをRejectできたか
RejectにOrganizational Cost(組織的コスト)があったか
Human Reviewerが実質的Authorityを持っていたか
Human Signature(人間の署名)やHuman Click(人間のクリック)をIndependent FormationのEvidenceとしない。
12. Delegation / Autonomy
Delegationを一律に否定的評価しない。
AIへ委任するときは、
Goal Authority(目標設定権限)
誰が最終Goalを設定したか。
Constraint Authority(制約設定権限)
AIが行ってよい範囲を誰が決めたか。
Monitoring(監視)
委任後の状態を把握できるか。
Revocation(取消可能性)
委任を取り消せるか。
Override(上書き)
個別Decisionを変更できるか。
Exit(離脱)
System利用を終了できるか。
Reversibility(可逆性)
実行結果を戻せるか。
を確認する。
これらはValidated Autonomy Scaleではない。
また、
これらが存在する
→ Autonomyが実証的に保証される
とも言わない。
13. Precommitment
Precommitment(事前拘束)は、本人が将来の自己に対してConstraintを設定する構造を理解するConceptual Prior Artとして有用である。
例:
自動積立
Spending Limit(支出上限)
自動リバランス
使用時間制限
Conditional Execution(条件付き実行)
本人自身が、
Goal
Constraint
Duration(期間)
Revision Rule(変更規則)
を選択する場合、DelegationはAutonomy-supporting Strategy(自律を支援する戦略)となり得る。
ただし、
Precommitment ≠ Guaranteed Autonomy
である。
14. Principal–Agent Structure
Principal–Agent Theory(プリンシパル=エージェント理論)は、AIやProviderへTaskを委任する構造を分析する補助線として有用である。
確認するのは、
Goal Alignment(目標整合)
Information Asymmetry(情報非対称性)
Monitoring Cost(監視コスト)
Incentive Misalignment(インセンティブ不一致)
Delegated Authority(委任権限)
である。
ただし、
AIそのものが法的・経済学的なAgentである
と主張するものではない。
Structural Analogy(構造的類推)として用いる。
15. Power / Agenda Setting
Steven Lukes等のPower Theory(権力論)は、Option Exclusion(選択肢排除)やAgenda Setting(議題設定)を考えるConceptual Lens(概念的補助線)として利用できる。
しかし、
AI Option GenerationとLukesのPower Theoryは完全に同型である
とはしない。
また政治理論をAI-specific Empirical Evidenceへ変換しない。
John LockeのTrustに基づく政治哲学的類推は、Domain 2の説明に必須ではないため、本公開版では使用しない。
16. Personalization / Commercial Incentives
Personalized Recommendation(個別化推奨)は、Relevance(関連性)やConvenienceを改善する可能性がある。
しかし、
Personalization ≠ Best Interest
である。
Provider Objective(提供者目的)として、
Sales
Engagement
Advertising Revenue
Transaction Frequency
Retention
等が存在する場合、本人Goalとの不一致を確認する。
Personalizationが有益な場合もあるため、
Personalization is harmful.
とも一般化しない。
17. Preference Formation
Preferenceを固定されたInput(入力)として扱わない。
AIとのInteraction(相互作用)が、
Goal
Priority
Risk Perception
Option Awareness(選択肢認知)
Preference
へ影響する可能性がある。
したがって、
Preference Elicitation
≠ Preference Formation
である。
ただしPreference Changeを主張するには、その変化を実際に測定したEvidenceが必要である。
18. Explanation / Understanding / Independent Evaluation
AI Explanationには複数の役割がある。
Understanding Support(理解支援)
Persuasion(説得)
Justification(正当化)
Error Detection Support(誤り検出支援)
Accountability Support(説明責任支援)
一つのExplanationがすべてを満たすとは限らない。
特に、
Plausible Explanation(もっともらしい説明)
≠ Faithful Explanation(モデル処理に忠実な説明)
である。
Lane et al.の結果は、
Explanation can alter compliance and override behavior. [D2-S09]
を支持する。
しかし、
Explanation generally suppresses reasoning.
までは支持しない。
19. Appropriate Reliance
Appropriate Reliance(適切な依拠)を、単なるRecommendation Acceptance Rate(推奨受容率)で測らない。
最低限、
AI Correct
AI Incorrect
Human Baseline
Error Cost
Verification Cost
Uncertainty
Reversibility
を考慮する。
理想的には、
AIが正しいときに利用し、AIが誤っているときに拒否・修正できるか
を見る。
したがって、
Reliance Rate ↑
≠ Appropriate Reliance ↑
である。
20. Contestability
Contestability(異議申立て可能性)はExplanationと分ける。
制度的Decisionでは、
判定理由へのAccess(アクセス)
Input Data Correction(入力データ訂正)
Human Review Request(人間レビュー要求)
Appeal(不服申立て)
Reconsideration(再審査)
Suspension(執行停止)
Remedy(救済)
等を確認する。
Explainability(説明可能性) ≠ Contestability
である。
具体的なLegal Obligation(法的義務)はDomain 11で法域別に扱う。
21. Agentic AI / Execution
Agentic AIではDecision FormationからExecutionまでの距離が短縮する。
しかし、
AIがExecutionした
≠ AIが最終Authorityを持った
である。
確認する。
Prior Authorization(事前権限付与)
Authorization Scope(権限範囲)
Operation Cap(実行上限)
Approval Threshold(承認閾値)
Monitoring
Stop Authority(停止権限)
Reversibility
Ex-post Review(事後レビュー)
2026年時点では、Agentic AIへ長期間Execution Authorityを委任した場合のHuman Outcomeについて、十分なLongitudinal Direct Evidence(長期直接証拠)はない。
したがって、ここはSystem-design Implication(システム設計上の含意)として扱う。
22. Alternative Explanations
AI Recommendation後にHuman Decisionが変わっても、AI固有のInfluenceと即断しない。
最低限確認する。
情報品質(Information Quality)
単に追加情報の質が高かった可能性。
インターフェース効果(Interface Effect)
UIが理解しやすかった可能性。
既定選択効果(Default Effect)
AI RecommendationではなくDefaultが影響した可能性。
時間圧(Time Pressure)
検証時間不足によってRecommendationが採用された可能性。
組織的圧力(Organizational Pressure)
AIを信頼したのではなく、組織的に従う方が合理的だった可能性。
事前信念(Prior Belief)
利用者が元々望んでいたOptionをAIが追認した可能性。
専門性(Expertise)
専門性によってAdvice Weightが異なった可能性。
インセンティブ構造(Incentive Structure)
本人・組織・Providerの報酬構造がDecisionに影響した可能性。
23. Counterevidence
23.1 AI Influence ≠ Human Powerlessness
人間は条件によって、
Recommendationを拒否する
他Sourceを確認する
複数AIを比較する
Constraintを変える
Goalを変更する
Delegationを解除する
ことができる。
23.2 Human Final Authority ≠ Effective Control
逆に、人間がFormal Authorityを保持していても、
Time不足
Information不足
Expertise不足
High Workload
Organizational Pressure
High Verification Cost
が存在すれば、Practical Control(実質的統制)が弱い場合がある。
23.3 Algorithm Aversionも存在する
人間がAlgorithmic Adviceを常に過信するわけではない。[D2-S06]
Under-reliance(過少利用)もDecision Errorにつながり得る。
23.4 More Options ≠ More Autonomy
Optionが増えても、
情報過多
Comparison Cost(比較コスト)
Choice Overload(選択過多)
等が生じる可能性がある。
したがって、Option数をAutonomyの直接尺度にしない。
24. Evidence Status
Conceptual Non-entailmentにはA–Fを機械的に付けない。
Empirical / Predictive ClaimについてはDomain 0基準を使用する。
B — Direct empirical support
以下には対象Scope内でDirect Evidenceがある。
Human–AI CombinationがBest Solo Performerを自動的に超えない。[D2-S08]
Narrative Explanation条件でCompliance / Productive Overrideが変化する場合がある。[D2-S09]
Personal LLM Adviceで高いSelf-reported Followingが観察される。[D2-S10]
Generative AI Offloading StyleとSelf-reported Agency / Motivation等に異なるAssociationがある。[D2-S11]
C — Indirect / theory-consistent support
Choice ArchitectureをConversational AIへ適用する一般的解釈。[D2-S01]
Principal–Agent TheoryをAI Delegationへ適用する構造的分析
PrecommitmentをAI Delegationへ適用する分析
E — Evidence currently insufficient / indeterminate
Persistent AI Delegationが長期的Decision Skillを低下させる
Generative AIによるOption Generationが一般にAutonomyを減少させる
Agentic AIへの長期委任がHuman Authorityを一般に減少させる
Personalized Conversational Choice Architectureの長期Outcome
AI Adviceへの高いFollowingが一般にInappropriate Relianceを意味する [D2-S10]
25. What We Can Say Now
現時点で比較的安全に言えることは次である。
Human–AI DecisionはFinal Choiceだけでなく、Information、Option Generation、Filtering、Ranking、Evaluation、Recommendation、Authorization、Executionへ分解して監査する必要がある。
Human Final ApprovalだけではHuman-led Decision Formationを確立できない。
Advice InfluenceとAuthority Transferは別である。[D2-S02][D2-S03]
AI / Algorithmic Recommendationは、対象条件によってHuman Judgmentを変化させ得る。[D2-S07][D2-S09][D2-S10]
Framing、Ordering、Default等がHuman Choiceを変えることはExisting Researchで確立しているが、Generative AIへ同じEffect Sizeを直接外挿できない。[D2-S01]
Algorithm AversionとAlgorithm Appreciationの双方が観察されており、AlgorithmへのReliance方向はContext依存である。[D2-S06][D2-S07]
Human–AI CombinationはHuman Aloneより高いPerformanceを示す場合がある一方、Best Solo Performerを自動的に上回るわけではない。[D2-S08]
特定のInnovation Screening Taskでは、Narrative LLM Explanation条件でAI RecommendationへのAsymmetric ComplianceとProductive Override低下が観察された。[D2-S09]
Personal LLM Advice研究では、高いSelf-reported Advice Followingが観察されているが、それはVerified BehaviorやAppropriate Relianceと同一ではない。[D2-S10]
AI Delegationそれ自体ではAutonomy LossもAutonomy Preservationも確立できない。
Generative AIへの異なるCognitive Offloading Styleは、異なるSelf-reported Agency / Motivation Outcomeと関連し得るが、長期Skill Atrophyは確立されていない。[D2-S11]
Execution、Authority、Responsibilityは分離する必要がある。
26. What We Cannot Say Yet
以下のUniversal Claimは支持しない。
人間が最終選択したことだけで、人間主導の判断形成(Human-led Decision Formation)が成立したとは言えない。
AIの推奨(AI Recommendation)が、AIへの権限移転(AI Authority)と同一であるとは言えない。
AIの助言が一般に人間の選択を支配すると言うことはできない。
選択肢が増えるほど自律性(Autonomy)が常に高まるとは言えない。
AIによる選択肢生成(Option Generation)が中立であるとは言えない。
AIによる順位付け(Ranking)が中立であるとは言えない。
個別化された推奨(Personalized Recommendation)が、利用者の最善利益(Best Interest)を反映しているとは限らない。
AIへの委任(Delegation)が一般に自律性を低下させるとは言えない。
AIへの委任が一般に自律性を維持するとも言えない。
事前拘束(Precommitment)が常に自律性を維持するとは言えない。
説明(Explanation)が理解を保証するとは言えない。
説明が、人間による独立した判断(Independent Human Judgment)を保証するとは言えない。
流暢なAI説明が一般に批判的思考(Critical Thinking)を低下させるとは言えない。[D2-S09]
AI助言への高い追従率(Advice Following)が、不適切な依拠(Inappropriate Reliance)を意味するとは言えない。[D2-S10]
専門家が誤ったAI助言を安定して修正できるとは言えない。
人間によるレビュー(Human Review)が意思決定品質の改善を保証するとは言えない。[D2-S08][D2-S09]
Human–AI Teamが一般にHuman AloneとAI Aloneの双方を上回るとは言えない。[D2-S08]
人間だけによる意思決定が、本質的により自律的であるとは言えない。
認知的オフローディング(Cognitive Offloading)が長期的な判断技能の萎縮(Decision-skill Atrophy)を引き起こすとは言えない。[D2-S11]
Agentic AIが必然的に意味のあるHuman Authorityを消失させるとは言えない。
27. Boundary Conditions
Human–AI Decision研究を比較するとき、最低限以下を記録する。
Population(対象集団)
Expertise(専門性)
AI / System Type(AI・システム種類)
Model / Version(モデル・バージョン)
Task(課題)
Stakes(結果の重大性)
Human Baseline(人間単独基準)
AI Accuracy(AI精度)
AI Error Distribution(AIエラー分布)
Time Pressure(時間圧)
Number of Alternatives(選択肢数)
Option Source(選択肢生成主体)
Filtering
Ranking
Default
Framing
Confidence Display(確信度表示)
Explanation
Verification Cost(検証コスト)
Organizational Constraint(組織的制約)
Commercial Incentive(商業的インセンティブ)
Authority
Delegation Scope(委任範囲)
Revocation(取消可能性)
Reversibility
Execution Capability(実行能力)
Contestability
Outcome
Follow-up
Responsibility Structure(責任構造)
28. Cross-References
Domain 0 — Cross-Domain Audit Protocol
Authority / Formation / Influence / Execution / Responsibilityの横断規格。
Domain 1 — Learning・Capability Formation
Cognitive Offloading ≠ Skill Degradation。AI支援利用とHuman Capabilityの分離。
Domain 3 — Trust・Reliance・Calibration
Trust ≠ Reliance ≠ Appropriate Reliance。Confidence ≠ Accuracy。
Domain 4 — Communication・Mediation・Translation
Framing、Persuasion、Explanation、SycophancyとDecision Formation。
Domain 6 — Mental Health
AI Advice、Help-Seeking、Reality Testing、Clinical Judgment。
Domain 7 — Care・Aging・Supported Decision-Making
Decision Support、Consent、Decision Authority。
Domain 8 — Accessibility・Assistive Technology・Participation
Support、Autonomy、Functional Independence。
Domain 9 — Work・Organization・Algorithmic Management
Organizational Pressure、Mandatory AI Use、Management Recommendation。
Domain 10 — Oversight・Safety・Control
Human Review、Override、Execution、Control。
Domain 11 — Institution・Law・Governance・Responsibility
Institutional Authority、Contestability、Appeal、Responsibility、Legitimacy。
Domain 12 — Finance・Consumer・Credit・Insurance
Information、Advice、Recommendation、Best Interest、Delegation、Execution。
29. Source Ledger
[D2-S01] Tversky & Kahneman (1981)
Citation
Tversky, A., & Kahneman, D. (1981). The Framing of Decisions and the Psychology of Choice. Science, 211(4481), 453–458.
DOI
10.1126/science.7455683
Source Type
Foundational Behavioral Experiment
Research Tradition
Decision Science / Behavioral Economics
Evidence Layer
Layer A — Existing Research Tradition
Supports
Equivalent Decision Problems can yield different choices depending on framing.
Does Not Support
Conversational Generative AIに同一Effect Sizeが存在すること。
[D2-S02] Sniezek & Buckley (1995)
Citation
Sniezek, J. A., & Buckley, T. (1995). Cueing and Cognitive Conflict in Judge-Advisor Decision Making. Organizational Behavior and Human Decision Processes, 62(2), 159–174.
DOI
10.1006/obhd.1995.1040
Source Type
Behavioral Experiment
Research Tradition
Judge–Advisor Systems
Evidence Layer
Layer A
Supports
Initial Judgment、Advice、Final Judgmentを分離してAdvice Influenceを研究するJASのPrior Art。
Does Not Support
Advice InfluenceがFormal Authority Transferを意味すること。
[D2-S03] Bailey et al. (2023)
Citation
Bailey, P. E., Leon, T., Ebner, N. C., Moustafa, A. A., & Weidemann, G. (2023). A meta-analysis of the weight of advice in decision-making. Current Psychology, 42, 24516–24541.
DOI
10.1007/s12144-022-03573-2
Source Type
Meta-analysis
Research Tradition
Advice Taking / Judge–Advisor Systems
Evidence Layer
Layer A
Supports
Advice WeightがContext、Advisor、Judge等によって変化すること。
Does Not Support
一つのUniversal WOA値をAI Adviceへ適用すること。
[D2-S04] Mosier et al. (1998)
Citation
Mosier, K. L., Skitka, L. J., Heers, S., & Burdick, M. (1998). Automation Bias: Decision Making and Performance in High-Tech Cockpits. The International Journal of Aviation Psychology, 8(1), 47–63.
DOI
10.1207/s15327108ijap0801_3
Source Type
Experimental Human Factors Research
Evidence Layer
Layer C — Adjacent Evidence
Supports
Automation BiasにおけるOmission / Commission Errorの存在。
Does Not Support
Modern LLMで同じEffect Size・Failure Patternが必ず生じること。
[D2-S05] Parasuraman & Manzey (2010)
Citation
Parasuraman, R., & Manzey, D. H. (2010). Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381–410.
DOI
10.1177/0018720810376055
Source Type
Review / Integrative Model
Evidence Layer
Layer A / C
Supports
Automation BiasとAutomation Complacencyを、Attention、Workload等と関連づけて分析するPrior Art。
Does Not Support
Automation Biasを単なるTrustとして説明すること。
[D2-S06] Dietvorst et al. (2015)
Citation
Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err. Journal of Experimental Psychology: General, 144(1), 114–126.
DOI
10.1037/xge0000033
Source Type
Behavioral Experiments
Evidence Layer
Layer C
Supports
Algorithm Errorを観察した後にAlgorithmを過少利用する条件。
Does Not Support
People generally distrust AI.
[D2-S07] Logg, Minson & Moore (2019)
Citation
Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm Appreciation: People Prefer Algorithmic to Human Judgment. Organizational Behavior and Human Decision Processes, 151, 90–103.
DOI
10.1016/j.obhdp.2018.12.005
Source Type
Behavioral Experiments
Evidence Layer
Layer C
Supports
一定条件でAlgorithmic AdviceがHuman Adviceより強く利用されること。
Does Not Support
Algorithmic AdviceへのHigh RelianceがAppropriate Relianceであること。
[D2-S08] Vaccaro, Almaatouq & Malone (2024)
Citation
Vaccaro, A. G., Almaatouq, A., & Malone, T. W. (2024). When combinations of humans and AI are useful: A systematic review and meta-analysis. Nature Human Behaviour.
DOI
10.1038/s41562-024-02024-1
Source Type
Preregistered Systematic Review / Meta-analysis
Evidence Layer
Layer B — Direct Human–AI Evidence
Evidence Base
106 experiments / 370 unique effect sizes.
Main Result
Human–AI Combination vs Best Solo Performer:
Hedges' g = -0.23
95% CI = -0.39 to -0.07.
Supports
Human–AI Combinationが自動的にBest Solo Performerを上回らないこと。Decision TaskとCreation Taskで結果が異なること。
Does Not Support
Human–AI Collaboration generally fails.
[D2-S09] Lane et al. — Narrative AI
Citation
Lane, J. N., Boussioux, L., Ayoubi, C., Chen, Y. H., Lin, C., Spens, R., Wagh, P., & Wang, P.-H. The Narrative AI Advantage? A Field Experiment on AI-Augmented Evaluations of Early-Stage Innovations.
Publication Status
Harvard Business School Working Paper 25-001.
Source Type
Field Experiment / Working Paper
Evidence Layer
Layer B
Population
228 evaluators.
Decisions
3,002.
Conditions
Human-only / Black-box LLM / Narrative LLM.
Supports
特定Innovation Screening TaskでNarrative ExplanationがAsymmetric Complianceを増加させ、Productive Overrideを減少させたこと。
Does Not Support
AI Explanation generally destroys critical thinking.
すべてのExplanationがDecision Qualityを低下させること。
Evidence Status
B within studied conditions.
[D2-S10] Luettgau et al. — Personal LLM Advice
Citation
Luettgau, L., Cheung, V., Dubois, M., Juechems, K., Bergs, J., Symes, L., Davidson, H., O'Dell, B., Kirk, H. R., Rollwage, M., & Summerfield, C. People readily follow personal advice from AI but it does not improve their well-being.
Source
arXiv:2511.15352v4.
Version Date
26 August 2026.
Source Type
Longitudinal Randomized Controlled Trial / Preprint
Population
UK representative sample.
N
6,474.
AI/System
GPT-4o, Llama-3.3-70B, Gemini 3 Pro.
Follow-up
2–3 weeks.
Supports
最大79%のParticipantsがAI Adviceに従ったとSelf-reportしたこと。High-stakes AdviceでもSelf-reported Followingが65%以上だったこと。
Does Not Support
Verified Actual Behaviorが79%だったこと。High FollowingがInappropriate Relianceを意味すること。
Evidence Status
B for reported outcomes.
[D2-S11] Zhu et al. (2026)
Citation
Zhu, Q., Li, X., Dong, Y., Chang, P., & Fan, M. (2026). Not all cognitive offloading is equal: distinguishing dependent and autonomous offloading to generative AI. Frontiers in Psychology, 17, 1878629.
DOI
10.3389/fpsyg.2026.1878629
Source Type
Three-wave Time-lagged Survey
Evidence Layer
Layer B
Population
University students and early-career knowledge workers.
N
589.
Supports
Dependent / Autonomous OffloadingとPerceived Cognitive Agency、Intrinsic Motivation、Self-reported Cognitive Outcomesとの異なるAssociation。
Does Not Support
Objective long-term Skill Atrophy。
Causal Cognitive Decline。
Long-term Decision Skill Degradation。
Evidence Status
B for observed associations.
E for objective long-term skill-loss claims.
30. Research Gaps
Decision Formation Measurement
Option Generation、Filtering、Ranking等へのAI InfluenceをFinal Choiceとは独立にどう測るか。
Option-set Effects
Generative AIが「何を選ばせたか」だけでなく「何を候補として生成しなかったか」をどう評価するか。
Personalized Choice Architecture
Conversational AIによる動的PersonalizationがFixed Interface(固定UI)とどう異なるか。
Longitudinal Delegation
数か月・数年のAI Delegationが、
Decision Habit
Skill
Autonomy
Monitoring Behavior
Responsibility Attribution
へ与える影響。
Objective Cognitive Outcomes
Offloading Styleと客観的なDecision Skill、Retention、Transferとの関係。
Effective Contestability
AppealやHuman Reviewが形式的に存在するだけでなく、実際にDecision Correctionへつながる条件。
Agentic Execution
長期間にわたるAI Execution AuthorityがHuman Control、Welfare、Responsibilityへ与える影響。
31. Existing-Theory-First Final Judgment
Domain 2の主要な現象の大部分は、
Decision Science
Judge–Advisor Systems
Advice Taking
Choice Architecture
Automation Bias
Algorithm Aversion / Appreciation
Human Factors
Principal–Agent Theory
Shared / Supported Decision-Making
等の既存研究へ接続できる。
Generative AIには、
Dynamic Conversational Framing(動的対話フレーミング)
Personalized Recommendation(個別化推奨)
Natural-language Rationale Generation(自然言語理由生成)
Cross-domain Advice(領域横断助言)
Agentic Execution(エージェント型実行)
など、既存研究へ追加検証が必要な条件が存在する。
したがって現在の判定は、
Existing theory mostly sufficient — AI-specific extension useful
である。
New Comprehensive Decision Theory:No
32. Final Assessment
Human–AI Decision-Making(人間とAIの意思決定)を監査するとき、
最後に誰が選んだか(Who made the final choice?)
だけでは不十分である。
必要なのは、
誰が判断空間を構成したか(Who constructed the decision space?)
まで確認することである。
AIはFormal Authorityを持たなくても、
情報を選び
Optionを生成し
一部を除外し
Rankingし
Evaluation Criteriaを提示し
Recommendationし
Explanationを生成する
ことでDecision Formationへ関与できる。
しかし、
AI Influence
≠ Human Powerlessness
である。
また、
Human Final Approval
≠ Effective Human Control
でもある。
したがって、Domain 2で監査する基本単位は、
Person × AI/System × Decision Task × Goal × Information × Option Set × Formation Process × Authority × Execution × Context × Outcome × Time Horizon
である。
最終的に問うべきなのは、
AIが決めたか、人間が決めたか
という二択ではない。
より限定された問い、
誰が情報を選び、誰が選択肢を作り、誰が評価基準を設定し、誰が推奨し、誰が最終選択し、誰が実行し、誰が変更・停止でき、誰が結果に責任を負うのか。
である。
領域 2 / Domain 2は、新しい意思決定理論ではない。
AIが人間のDecisionへ関与するとき、「最後に誰が決めたか」だけで判断の主体性を評価しないための、Decision Formation監査である。