メインコンテンツへスキップ

【Human–AI Relations 領域2】判断形成・意思決定支援 ―― 誰が情報・選択肢・推奨を作り、誰が決めたのか

    Human–AI Relations 監査インデックス β

    領域 2 / Domain 2

    判断形成・意思決定支援 / Decision Formation・Decision Support

    AIが「最後に決めていない」場合でも、判断形成へどこまで関与しているかを監査する


    0. Document Status

    Document Type: Domain Audit / Publication Version
    Domain: Decision Formation・Decision Support・Delegation・Authority
    Status: Publication Closure
    Theory Status: 新しい包括的意思決定理論の提案ではない
    Primary Function: AIが関与する意思決定について、情報取得・選択肢生成・推奨・最終選択・実行・責任を分離して監査する
    Parent Protocol: Domain 0 — Cross-Domain Audit Protocol

    本領域では、

    誰が最後に決めたか

    だけではなく、

    その決定に至るまでの判断空間を、誰がどのように形成したか

    を分析する。


    1. Domain

    本領域は、AIが人間の意思決定へ関与する状況において、

    • 情報を誰が選んだか

    • 選択肢を誰が作ったか

    • 何が除外されたか

    • 何が上位に提示されたか

    • どの評価基準が使われたか

    • 何が推奨されたか

    • 誰が最終選択したか

    • 誰が実行したか

    • 誰が変更・停止できたか

    • 誰が結果に責任を負うか

    を分離して監査する。

    対象には、

    • Large Language Model(大規模言語モデル、LLM)

    • Generative AI(生成AI)

    • Recommender System(推薦システム)

    • Decision Support System(意思決定支援システム)

    • Predictive Model(予測モデル)

    • Institutional Scoring System(制度的スコアリングシステム)

    • Autonomous / Agentic AI(自律実行型AI / エージェント型AI)

    などを含む。

    これらを一つの「AI判断」として扱わない。


    2. Core Question

    中心問いは次である。

    人間が最終的な承認・選択を行った場合、それだけで人間主導の判断形成が成立したと言えるか。

    AIは最終決定者でなくても、

    • Information Acquisition(情報取得)

    • Option Generation(選択肢生成)

    • Filtering(絞り込み)

    • Ranking(順位付け)

    • Comparison(比較)

    • Evaluation(評価)

    • Recommendation(推奨)

    • Framing(情報の枠づけ)

    を通じてDecision Formation(判断形成)へ関与できる。

    したがって、

    Final Choice(最終選択) ≠ Decision Formation(判断形成)

    である。

    ただし、

    AIが判断形成へ関与した
    ≠ 人間の判断が無効になった

    でもある。

    本領域の目的は「AIが決めたか、人間が決めたか」という二択を作ることではない。


    3. Key Distinctions

    3.1 Information ≠ Advice

    Information Provision(情報提供)とAdvice(助言)は分ける。

    例:

    「この金融商品の手数料は1.2%」

    は情報提供である。

    「あなたにはこの商品が適している」

    は助言または推奨に近い。


    3.2 Advice ≠ Recommendation

    一般的な助言と、特定Optionを優先的に提示するRecommendation(推奨)は同一ではない。

    複数案について長所・短所を説明することと、

    「この選択肢を選ぶべき」

    と順位付けすることを区別する。


    3.3 Recommendation ≠ Decision

    AIが推奨したことと、AIが制度的・法的・組織的にDecision(決定)を行ったことは別である。

    同時に、

    AIが最終決定者ではない
    ≠ AIの影響が小さい

    でもある。


    3.4 Recommendation ≠ Authority

    Recommendationが強く受け入れられても、それだけでFormal Authority(形式的権限)がAIへ移転したとは言えない。


    3.5 Final Choice ≠ Decision Formation

    人間が最後のOptionを選んでも、

    • 候補

    • 情報

    • Ranking

    • Evaluation Criteria(評価基準)

    • Default(既定選択)

    • Recommendation

    がAIによって形成されていた可能性がある。


    3.6 Human Approval ≠ Independent Human Judgment

    Human Approval(人間による承認)が存在しても、人間が独立した評価を実行したとは限らない。


    3.7 Human Final Approval ≠ Human-led Decision Formation

    人間が最後に承認ボタンを押したという事実だけでは、人間主導の判断形成を確立できない。


    3.8 Authority ≠ Influence

    Authority(権限)とInfluence(影響)は別である。

    AIにFormal Authorityがなくても、人間の判断へ強いInfluenceを持つことがある。

    逆に、

    Strong Influence
    ≠ Authority Transfer

    である。


    3.9 Framing ≠ Neutral Presentation

    同じ情報でも、利益・損失・危険・成功などの表現方法によって選択が変化することがある。

    Framing(フレーミング)は中立な情報提示と同一ではない。


    3.10 Ranking ≠ Neutral Ordering

    表示順位も中立とは限らない。

    どのOptionを先頭へ置くかによって、利用者が実際に見る情報や比較対象が変わり得る。


    3.11 Personalization ≠ Best Interest

    Personalization(個別最適化)は、本人のBest Interest(最善利益)と同一ではない。

    Provider(提供者)が最適化している目的が、

    • Engagement(利用継続)

    • Sales(販売)

    • Transaction Volume(取引量)

    • Advertising(広告反応)

    • Subscription Retention(契約維持)

    である可能性もある。


    3.12 User Preference ≠ Informed Preference

    利用者が選好を表明したことと、その選好が十分な情報・比較・熟慮を経て形成されたことは別である。


    3.13 Preference Elicitation ≠ Preference Formation

    Preference Elicitation(選好の抽出)とPreference Formation(選好形成)を分ける。

    AIとの対話そのものが、

    • Goal(目標)

    • Priority(優先順位)

    • Risk Perception(リスク認知)

    • Preference(選好)

    を変える可能性がある。


    3.14 Delegation ≠ Autonomy Loss

    Delegation(委任)それ自体はAutonomy Loss(自律喪失)を意味しない。

    同時に、

    Delegation ≠ Automatically Preserved Autonomy

    でもある。


    3.15 Cognitive Offloading ≠ Decision Skill Degradation

    Cognitive Offloading(認知的オフローディング)は、それ自体では判断能力の低下を意味しない。

    利用形態と長期Outcomeを別途測定する必要がある。


    3.16 Explanation ≠ Understanding

    AIがExplanation(説明)を提示しても、人間が理解したとは限らない。


    3.17 Explanation ≠ Independent Evaluation

    説明が存在しても、利用者がAIとは独立した評価を行ったとは限らない。


    3.18 Explanation ≠ Contestability

    説明を読めることと、そのDecisionへ異議を申し立て、修正や救済を求められることは別である。

    Contestability(異議申立て可能性)は、Explanationとは別に監査する。


    3.19 Confidence ≠ Accuracy

    AIの言語表現が断定的であること、またはConfidence(確信度)が高く表示されることと、実際の正確性は同一ではない。


    3.20 Decision ≠ Execution

    Decisionを形成・承認した主体と、実際にAction(行動)を実行する主体は異なり得る。


    3.21 Execution ≠ Responsibility

    実際にクリック・送信・発注・操作した主体だけが、結果に対するResponsibility(責任)を持つとは限らない。


    4. Decision Formation Audit

    意思決定過程を、監査上最低限次へ分解する。

    これは普遍的な心理Stage Model(段階モデル)ではない。

    Feedback(フィードバック)、Iteration(反復)、Reconsideration(再検討)を伴い得る、

    Audit Decomposition(監査用分解)

    である。

    4.1 Information Acquisition(情報取得)

    どの情報が判断材料として利用可能になったか。

    確認:

    • 情報源

    • 検索範囲

    • Provenance(出所)

    • 欠落情報

    • 情報更新時点


    4.2 Option Generation(選択肢生成)

    どのOptionが候補として生成されたか。

    確認:

    • 誰が候補を作ったか

    • 人間が考えていなかったOptionが追加されたか

    • 逆に存在するOptionが提示されなかったか

    • Option Diversity(選択肢の多様性)がどう変化したか


    4.3 Filtering(絞り込み)

    どのOptionが除外されたか。

    重要なのは、

    表示されなかったOptionもDecision Formationの一部

    である。


    4.4 Ranking(順位付け)

    どのOptionが上位に表示されたか。

    RankingをNeutral Ordering(中立な並び順)と仮定しない。


    4.5 Comparison(比較)

    何と何を比較したか。

    AIによってComparison Set(比較対象集合)が限定されることがある。


    4.6 Evaluation(評価)

    どのCriteria(評価基準)でOptionを評価したか。

    例:

    • Accuracy(正確性)

    • Price(価格)

    • Risk(リスク)

    • Convenience(利便性)

    • Fairness(公平性)

    • User Preference(本人選好)

    • Long-term Outcome(長期結果)


    4.7 Recommendation(推奨)

    どのOptionが推奨されたか。

    Recommendation Strength(推奨の強さ)も記録する。


    4.8 Final Selection(最終選択)

    誰が最終的にOptionを選んだか。


    4.9 Authorization(権限付与)

    その選択を正式なActionへ移す権限を誰が持っていたか。


    4.10 Execution(実行)

    誰または何が実際にActionを実行したか。


    5. Existing Research Traditions

    本領域では新理論を先に作らず、以下の既存研究をPrior Art(先行研究)として用いる。

    Decision Science(意思決定科学)

    不確実性下での判断・選択。

    Behavioral Decision Research(行動意思決定研究)

    判断のBias(偏り)、Heuristics(ヒューリスティクス)、Framing等。

    Judge–Advisor Systems(判断者―助言者システム、JAS)

    初期判断、助言、最終判断を分け、助言がどれだけ取り入れられたかを研究する。

    Advice Taking(助言利用研究)

    他者・専門家・Algorithmic Advisor(アルゴリズム助言者)の助言が判断へどう組み込まれるかを扱う。

    Choice Architecture(選択環境設計)

    Default、Framing、Ordering(提示順序)、Salience(顕著性)等がChoice(選択)へ与える影響。

    Human Factors(ヒューマンファクター)

    Workload(作業負荷)、Situation Awareness(状況認識)、Time Pressure(時間圧)、Automation等。

    Automation Bias(自動化バイアス)

    Automated Decision Aid(自動意思決定支援)の出力によるOmission Error(見落とし)やCommission Error(誤った追従)。

    Algorithm Aversion(アルゴリズム忌避)

    AlgorithmがErrorを示した後に過少利用される条件。

    Algorithm Appreciation(アルゴリズム選好)

    Algorithmic AdviceがHuman Adviceより強く利用される条件。

    Decision Support Systems(意思決定支援システム)

    人間のDecisionを情報・分析・Recommendationによって支援する研究伝統。

    Function Allocation(機能配分)

    HumanとAutomationのどちらへ、どのFunction(機能)を割り当てるか。

    Shared Decision-Making(共同意思決定)

    医療等で本人と専門職が情報・価値・選択肢を共有してDecisionを形成する研究。

    Supported Decision-Making(支援付き意思決定)

    本人のLegal Capacity(法的能力)やDecision Authority(決定権限)を安易に代替せず、意思形成を支援する研究・制度的伝統。

    Principal–Agent Theory(プリンシパル=エージェント理論)

    委任、情報非対称性、目標不一致、Monitoring(監視)等を扱う。

    Precommitment(事前拘束)

    将来の自分の選択へ、本人が事前にConstraint(制約)を設定する構造。


    6. AI / System Scope

    本領域ではAI Systemを少なくとも次へ分ける。

    Informational Assistant(情報支援AI)

    検索、要約、説明を行う。

    Generative AI Advisor(生成AI助言者)

    自然言語で比較、助言、Recommendationを生成する。

    Recommender System(推薦システム)

    候補をFiltering / Rankingする。

    Decision Support System(意思決定支援システム)

    Prediction、Risk Score、Recommendation等を提示する。

    Institutional Scoring System(制度的スコアリングシステム)

    採用、信用、保険、行政等のInstitutional Decision(制度的決定)へ関与する。

    Agentic AI(エージェント型AI)

    Decision Formationだけでなく、一定範囲のExecutionまで行う。

    同じ「AI支援」と呼ばれていても、これらのAuthority、Action Capability(実行能力)、Reversibility(可逆性)は異なる。


    7. Direct AI-Specific Evidence

    7.1 Human–AI Combinationは自動的にSynergy(相乗効果)にならない

    Vaccaro, Almaatouq, & Malone (2024)は、106の実験から370のEffect Size(効果量)を統合したSystematic Review and Meta-analysis(系統的レビュー・メタ分析)を行った。[D2-S08]

    Human–AI Combination(人間とAIの組み合わせ)は平均するとHuman Alone(人間単独)より高いPerformance(課題成績)を示した。

    しかし、

    Human AloneとAI AloneのうちPerformanceが高い方

    をComparison Baseline(比較基準)とすると、Human–AI Combinationは平均して下回った。[D2-S08]

    主要結果:

    Hedges' g = -0.23
    95% CI = -0.39 to -0.07

    また、Decision Task(意思決定課題)ではPerformance Lossがみられ、Creation Task(生成課題)ではよりPositiveな結果がみられた。[D2-S08]

    したがって、

    Human + AI ≠ Automatically Best Performer

    である。

    これは、

    Human Review(人間レビュー)が存在すればDecision Quality(意思決定品質)が自動的に改善する

    という推論を支持しない。[D2-S08]


    7.2 Narrative Explanationは必ずしもDecision Qualityを高めない

    Lane et al.のHBS Working Paper 25-001は、Innovation Screening(イノベーション選考)におけるField Experiment(フィールド実験)を行った。[D2-S09]

    228人のEvaluator(評価者)が3,002件のDecisionを行い、

    • Human-only Control(人間のみ)

    • Black-box LLM Recommendation(説明なしLLM推奨)

    • Narrative LLM Recommendation(自然言語説明付きLLM推奨)

    を比較した。[D2-S09]

    Narrative Explanation(自然言語による説明)条件では、Black-box条件よりCompliance(推奨への追従)が増えた。

    さらに、LLM RecommendationがExpert Benchmark(専門家基準)と一致しないケースで、人間がAI Error(AIの誤り)を修正するProductive Override(有益な修正行動)は減少した。[D2-S09]

    全体ではNarrative条件のProductive OverrideはBlack-box条件より11.9 Percentage Points低かった。

    LLMがRejection(却下)を推奨したケースでは差は14.7 Percentage Pointsだった。[D2-S09]

    一方、Black-box LLM条件ではHuman-onlyよりDecision Qualityの改善がみられたが、Narrative条件では同様の改善は確認されなかった。[D2-S09]

    したがって安全に言えるのは、

    特定の主観的評価Taskでは、自然言語説明付きAI RecommendationがComplianceを増加させる一方、AI ErrorへのProductive Overrideを減少させることがある。 [D2-S09]

    である。

    ただし、

    Narrative Explanation generally destroys critical thinking.

    とは言えない。

    本SourceはWorking Paperであり、対象Taskも限定される。


    7.3 Personal LLM Adviceでは高いSelf-reported Followingが観察されている

    Luettgau et al.のarXiv preprint v4(2026年8月26日改訂)は、英国代表Sample(N = 6,474)を用いたLongitudinal Randomized Controlled Trial(縦断的無作為化比較試験)である。[D2-S10]

    参加者は、

    • Health(健康)

    • Career(仕事・キャリア)

    • Relationships(人間関係)

    について、

    • GPT-4o

    • Llama-3.3-70B

    • Gemini 3 Pro

    のいずれかと20分間対話した。[D2-S10]

    2〜3週間後のFollow-up(追跡調査)では、

    最大79%の参加者がAI Adviceに従ったとSelf-report(自己報告)した。 [D2-S10]

    High-stakes Recommendation(重大な結果を伴う推奨)でもSelf-reported Advice Followingは65%以上だった。[D2-S10]

    重要なのは、

    Self-reported Following ≠ Verified Actual Behavior

    である。

    また、

    High Following ≠ Appropriate Reliance(適切な依拠)

    でもある。

    AI Adviceが正しかった場合と誤っていた場合でConditional Reliance(条件付き依拠)を比較しなければ、Appropriate Relianceは確立できない。

    同研究では、Personal Advice条件がControl条件に比べて持続的なWell-being Benefit(幸福・心理的利益)をもたらしたとは確認されなかった。[D2-S10]


    7.4 Cognitive Offloadingの利用形態は区別できる

    Zhu et al. (2026)は、Generative AI利用におけるCognitive Offloadingを、

    • Dependent Offloading(依存的オフローディング)

    • Autonomous Offloading(自律的オフローディング)

    へ区別した。[D2-S11]

    N = 589の大学生・Early-career Knowledge Worker(若手知識労働者)を対象としたThree-wave Time-lagged Survey(3時点時間差調査)である。[D2-S11]

    Dependent Offloadingは、

    • Perceived Cognitive Agency Transfer(主観的な認知的主体性移譲)

    • Lower Intrinsic Motivation(低い内発的動機づけ)

    • Poorer Perceived Cognitive Outcomes(より悪い主観的認知Outcome)

    と関連した。[D2-S11]

    Autonomous Offloadingは、よりPositiveなSelf-reported Outcomeと関連した。[D2-S11]

    ただし測定されたのは、

    Perceived / Self-reported Cognitive Outcomes

    である。

    したがって、

    Dependent Offloading causes long-term skill atrophy.

    とは言えない。

    現時点では、

    Cognitive Offloading Styleと主観的なAgency / Motivation / Cognitive OutcomeとのAssociationが観察された [D2-S11]

    までが安全である。


    8. Adjacent Evidence

    8.1 Framing

    Tversky & Kahneman (1981)は、同じDecision ProblemでもGain / Loss Frame(利益・損失の枠づけ)によってChoiceが変化し得ることを示した。[D2-S01]

    これはAI以前のExisting Research Traditionである。

    したがって、

    Framing can affect choice. [D2-S01]

    は強く支持される。

    しかし、

    Conversational LLM has the same framing effect size.

    とは言えない。


    8.2 Judge–Advisor Systems / Advice Taking

    Judge–Advisor Systems(判断者―助言者システム、JAS)は、

    Initial Judgment
    → Advice
    → Final Judgment

    を分離する。[D2-S02]

    Weight of Advice(助言重み、WOA)は、AdviceがFinal Judgmentへどれだけ反映されたかを定量化する代表的指標である。[D2-S02][D2-S03]

    JASがDomain 2に与える重要な示唆は、

    Advice Influenceは連続量として測れる

    一方、

    Advice Influence ≠ Authority Transfer

    であることである。

    WOAは利用状況によって0未満や1を超える値を取り得るなど、測定上の制約もあるため、単純な「AIへの服従率」として扱わない。[D2-S03]


    8.3 Automation Bias

    Automation Bias研究では、

    Commission Error(誤作為)

    誤ったAutomated Recommendationに従う。

    Omission Error(不作為)

    Automationが警告しなかったため、人間側も問題を見落とす。

    という異なるFailure Mode(失敗様式)が研究されている。[D2-S04][D2-S05]

    Automation Biasは、

    Trustそのもの

    ではない。

    Workload、Attention(注意)、Time Pressure、Information Search Cost(情報探索コスト)等が関係する。[D2-S05]

    Classic AutomationのEvidenceをLLMへ直接外挿しない。


    8.4 Algorithm Aversion

    Dietvorst et al. (2015)では、AlgorithmがErrorを犯す場面を見た後、人々がAlgorithmを過少利用する条件が示された。[D2-S06]

    したがって、

    People always overtrust algorithms.

    とは言えない。


    8.5 Algorithm Appreciation

    Logg, Minson, & Moore (2019)では、一定のQuantitative Judgment Task(数量的判断課題)において、Algorithmic AdviceがHuman Adviceより強くWeightされる条件が示された。[D2-S07]

    したがって、

    Algorithm Aversion
    Algorithm Appreciation

    の双方が存在する。[D2-S06][D2-S07]

    どちらか一方をUniversal Human Response(普遍的人間反応)としない。


    9. Interpretive Link

    既存Evidenceから安全に接続できるのは次である。

    Observation

    現在のGenerative AIは、情報提示だけでなく、

    • Option Generation

    • Comparison

    • Evaluation

    • Recommendation

    • Explanation

    を同じConversational Interface(対話型インターフェース)内で連続して行える。

    Existing Research

    Decision Science、JAS、Choice Architecture、Automation Bias等は、それぞれ判断形成の一部を説明する。[D2-S01][D2-S02][D2-S03][D2-S04][D2-S05]

    Direct AI Evidence

    LLM Recommendation、Narrative Explanation、Personal Advice等がHuman BehaviorやSelf-reported Advice Followingを変化させる条件が実証されている。[D2-S09][D2-S10]

    Interpretive Conclusion

    したがってHuman–AI Decisionを監査するとき、

    Final AuthorityだけではなくDecision Formation全体を見る必要がある。

    ただし、

    AIがDecision Formationへ関与した
    → Human Autonomyが失われた

    とは推論しない。


    10. Authority / Formation / Influence / Execution / Responsibility

    Domain 0の5つのAnalytic Questions(分析質問)を適用する。

    これは5次元Theoryではない。

    Authority(権限)

    誰がAccept(受容)、Reject(拒否)、Modify(変更)、Stop(停止)を決められるか。

    Decision Formation(判断形成)

    誰がInformation、Option、Ranking、Evaluation、Recommendationを構成したか。

    Influence(影響)

    AIまたはContextが実際に人間の判断を変えたEvidenceがあるか。

    Exposure(接触) ≠ Influence

    である。

    Execution(実行)

    誰または何がActionを実行したか。

    Responsibility(責任)

    Legal、Professional、Organizational、Operational、MoralなResponsibilityが誰へ割り当てられるか。

    重要なのは、

    Authority ≠ Formation
    Authority ≠ Influence
    Influence ≠ Execution
    Execution ≠ Responsibility

    である。


    11. Human Final Approval

    「人間が最後に承認した」を分解する。

    最低限確認する。

    • Independent Evaluation(独立評価)を行ったか

    • Alternative Option(代替案)が見えていたか

    • Errorを検証できたか

    • 必要なExpertise(専門性)があったか

    • 十分なTimeがあったか

    • RecommendationをRejectできたか

    • RejectにOrganizational Cost(組織的コスト)があったか

    • Human Reviewerが実質的Authorityを持っていたか

    Human Signature(人間の署名)やHuman Click(人間のクリック)をIndependent FormationのEvidenceとしない。


    12. Delegation / Autonomy

    Delegationを一律に否定的評価しない。

    AIへ委任するときは、

    Goal Authority(目標設定権限)

    誰が最終Goalを設定したか。

    Constraint Authority(制約設定権限)

    AIが行ってよい範囲を誰が決めたか。

    Monitoring(監視)

    委任後の状態を把握できるか。

    Revocation(取消可能性)

    委任を取り消せるか。

    Override(上書き)

    個別Decisionを変更できるか。

    Exit(離脱)

    System利用を終了できるか。

    Reversibility(可逆性)

    実行結果を戻せるか。

    を確認する。

    これらはValidated Autonomy Scaleではない。

    また、

    これらが存在する
    → Autonomyが実証的に保証される

    とも言わない。


    13. Precommitment

    Precommitment(事前拘束)は、本人が将来の自己に対してConstraintを設定する構造を理解するConceptual Prior Artとして有用である。

    例:

    • 自動積立

    • Spending Limit(支出上限)

    • 自動リバランス

    • 使用時間制限

    • Conditional Execution(条件付き実行)

    本人自身が、

    • Goal

    • Constraint

    • Duration(期間)

    • Revision Rule(変更規則)

    を選択する場合、DelegationはAutonomy-supporting Strategy(自律を支援する戦略)となり得る。

    ただし、

    Precommitment ≠ Guaranteed Autonomy

    である。


    14. Principal–Agent Structure

    Principal–Agent Theory(プリンシパル=エージェント理論)は、AIやProviderへTaskを委任する構造を分析する補助線として有用である。

    確認するのは、

    • Goal Alignment(目標整合)

    • Information Asymmetry(情報非対称性)

    • Monitoring Cost(監視コスト)

    • Incentive Misalignment(インセンティブ不一致)

    • Delegated Authority(委任権限)

    である。

    ただし、

    AIそのものが法的・経済学的なAgentである

    と主張するものではない。

    Structural Analogy(構造的類推)として用いる。


    15. Power / Agenda Setting

    Steven Lukes等のPower Theory(権力論)は、Option Exclusion(選択肢排除)やAgenda Setting(議題設定)を考えるConceptual Lens(概念的補助線)として利用できる。

    しかし、

    AI Option GenerationとLukesのPower Theoryは完全に同型である

    とはしない。

    また政治理論をAI-specific Empirical Evidenceへ変換しない。

    John LockeのTrustに基づく政治哲学的類推は、Domain 2の説明に必須ではないため、本公開版では使用しない。


    16. Personalization / Commercial Incentives

    Personalized Recommendation(個別化推奨)は、Relevance(関連性)やConvenienceを改善する可能性がある。

    しかし、

    Personalization ≠ Best Interest

    である。

    Provider Objective(提供者目的)として、

    • Sales

    • Engagement

    • Advertising Revenue

    • Transaction Frequency

    • Retention

    等が存在する場合、本人Goalとの不一致を確認する。

    Personalizationが有益な場合もあるため、

    Personalization is harmful.

    とも一般化しない。


    17. Preference Formation

    Preferenceを固定されたInput(入力)として扱わない。

    AIとのInteraction(相互作用)が、

    • Goal

    • Priority

    • Risk Perception

    • Option Awareness(選択肢認知)

    • Preference

    へ影響する可能性がある。

    したがって、

    Preference Elicitation
    ≠ Preference Formation

    である。

    ただしPreference Changeを主張するには、その変化を実際に測定したEvidenceが必要である。


    18. Explanation / Understanding / Independent Evaluation

    AI Explanationには複数の役割がある。

    • Understanding Support(理解支援)

    • Persuasion(説得)

    • Justification(正当化)

    • Error Detection Support(誤り検出支援)

    • Accountability Support(説明責任支援)

    一つのExplanationがすべてを満たすとは限らない。

    特に、

    Plausible Explanation(もっともらしい説明)
    ≠ Faithful Explanation(モデル処理に忠実な説明)

    である。

    Lane et al.の結果は、

    Explanation can alter compliance and override behavior. [D2-S09]

    を支持する。

    しかし、

    Explanation generally suppresses reasoning.

    までは支持しない。


    19. Appropriate Reliance

    Appropriate Reliance(適切な依拠)を、単なるRecommendation Acceptance Rate(推奨受容率)で測らない。

    最低限、

    • AI Correct

    • AI Incorrect

    • Human Baseline

    • Error Cost

    • Verification Cost

    • Uncertainty

    • Reversibility

    を考慮する。

    理想的には、

    AIが正しいときに利用し、AIが誤っているときに拒否・修正できるか

    を見る。

    したがって、

    Reliance Rate ↑
    ≠ Appropriate Reliance ↑

    である。


    20. Contestability

    Contestability(異議申立て可能性)はExplanationと分ける。

    制度的Decisionでは、

    • 判定理由へのAccess(アクセス)

    • Input Data Correction(入力データ訂正)

    • Human Review Request(人間レビュー要求)

    • Appeal(不服申立て)

    • Reconsideration(再審査)

    • Suspension(執行停止)

    • Remedy(救済)

    等を確認する。

    Explainability(説明可能性) ≠ Contestability

    である。

    具体的なLegal Obligation(法的義務)はDomain 11で法域別に扱う。


    21. Agentic AI / Execution

    Agentic AIではDecision FormationからExecutionまでの距離が短縮する。

    しかし、

    AIがExecutionした
    ≠ AIが最終Authorityを持った

    である。

    確認する。

    • Prior Authorization(事前権限付与)

    • Authorization Scope(権限範囲)

    • Operation Cap(実行上限)

    • Approval Threshold(承認閾値)

    • Monitoring

    • Stop Authority(停止権限)

    • Reversibility

    • Ex-post Review(事後レビュー)

    2026年時点では、Agentic AIへ長期間Execution Authorityを委任した場合のHuman Outcomeについて、十分なLongitudinal Direct Evidence(長期直接証拠)はない。

    したがって、ここはSystem-design Implication(システム設計上の含意)として扱う。


    22. Alternative Explanations

    AI Recommendation後にHuman Decisionが変わっても、AI固有のInfluenceと即断しない。

    最低限確認する。

    情報品質(Information Quality)

    単に追加情報の質が高かった可能性。

    インターフェース効果(Interface Effect)

    UIが理解しやすかった可能性。

    既定選択効果(Default Effect)

    AI RecommendationではなくDefaultが影響した可能性。

    時間圧(Time Pressure)

    検証時間不足によってRecommendationが採用された可能性。

    組織的圧力(Organizational Pressure)

    AIを信頼したのではなく、組織的に従う方が合理的だった可能性。

    事前信念(Prior Belief)

    利用者が元々望んでいたOptionをAIが追認した可能性。

    専門性(Expertise)

    専門性によってAdvice Weightが異なった可能性。

    インセンティブ構造(Incentive Structure)

    本人・組織・Providerの報酬構造がDecisionに影響した可能性。


    23. Counterevidence

    23.1 AI Influence ≠ Human Powerlessness

    人間は条件によって、

    • Recommendationを拒否する

    • 他Sourceを確認する

    • 複数AIを比較する

    • Constraintを変える

    • Goalを変更する

    • Delegationを解除する

    ことができる。


    23.2 Human Final Authority ≠ Effective Control

    逆に、人間がFormal Authorityを保持していても、

    • Time不足

    • Information不足

    • Expertise不足

    • High Workload

    • Organizational Pressure

    • High Verification Cost

    が存在すれば、Practical Control(実質的統制)が弱い場合がある。


    23.3 Algorithm Aversionも存在する

    人間がAlgorithmic Adviceを常に過信するわけではない。[D2-S06]

    Under-reliance(過少利用)もDecision Errorにつながり得る。


    23.4 More Options ≠ More Autonomy

    Optionが増えても、

    • 情報過多

    • Comparison Cost(比較コスト)

    • Choice Overload(選択過多)

    等が生じる可能性がある。

    したがって、Option数をAutonomyの直接尺度にしない。


    24. Evidence Status

    Conceptual Non-entailmentにはA–Fを機械的に付けない。

    Empirical / Predictive ClaimについてはDomain 0基準を使用する。

    B — Direct empirical support

    以下には対象Scope内でDirect Evidenceがある。

    • Human–AI CombinationがBest Solo Performerを自動的に超えない。[D2-S08]

    • Narrative Explanation条件でCompliance / Productive Overrideが変化する場合がある。[D2-S09]

    • Personal LLM Adviceで高いSelf-reported Followingが観察される。[D2-S10]

    • Generative AI Offloading StyleとSelf-reported Agency / Motivation等に異なるAssociationがある。[D2-S11]

    C — Indirect / theory-consistent support

    • Choice ArchitectureをConversational AIへ適用する一般的解釈。[D2-S01]

    • Principal–Agent TheoryをAI Delegationへ適用する構造的分析

    • PrecommitmentをAI Delegationへ適用する分析

    E — Evidence currently insufficient / indeterminate

    • Persistent AI Delegationが長期的Decision Skillを低下させる

    • Generative AIによるOption Generationが一般にAutonomyを減少させる

    • Agentic AIへの長期委任がHuman Authorityを一般に減少させる

    • Personalized Conversational Choice Architectureの長期Outcome

    • AI Adviceへの高いFollowingが一般にInappropriate Relianceを意味する [D2-S10]


    25. What We Can Say Now

    現時点で比較的安全に言えることは次である。

    1. Human–AI DecisionはFinal Choiceだけでなく、Information、Option Generation、Filtering、Ranking、Evaluation、Recommendation、Authorization、Executionへ分解して監査する必要がある。

    2. Human Final ApprovalだけではHuman-led Decision Formationを確立できない。

    3. Advice InfluenceとAuthority Transferは別である。[D2-S02][D2-S03]

    4. AI / Algorithmic Recommendationは、対象条件によってHuman Judgmentを変化させ得る。[D2-S07][D2-S09][D2-S10]

    5. Framing、Ordering、Default等がHuman Choiceを変えることはExisting Researchで確立しているが、Generative AIへ同じEffect Sizeを直接外挿できない。[D2-S01]

    6. Algorithm AversionとAlgorithm Appreciationの双方が観察されており、AlgorithmへのReliance方向はContext依存である。[D2-S06][D2-S07]

    7. Human–AI CombinationはHuman Aloneより高いPerformanceを示す場合がある一方、Best Solo Performerを自動的に上回るわけではない。[D2-S08]

    8. 特定のInnovation Screening Taskでは、Narrative LLM Explanation条件でAI RecommendationへのAsymmetric ComplianceとProductive Override低下が観察された。[D2-S09]

    9. Personal LLM Advice研究では、高いSelf-reported Advice Followingが観察されているが、それはVerified BehaviorやAppropriate Relianceと同一ではない。[D2-S10]

    10. AI Delegationそれ自体ではAutonomy LossもAutonomy Preservationも確立できない。

    11. Generative AIへの異なるCognitive Offloading Styleは、異なるSelf-reported Agency / Motivation Outcomeと関連し得るが、長期Skill Atrophyは確立されていない。[D2-S11]

    12. Execution、Authority、Responsibilityは分離する必要がある。


    26. What We Cannot Say Yet

    以下のUniversal Claimは支持しない。

    1. 人間が最終選択したことだけで、人間主導の判断形成(Human-led Decision Formation)が成立したとは言えない。

    2. AIの推奨(AI Recommendation)が、AIへの権限移転(AI Authority)と同一であるとは言えない。

    3. AIの助言が一般に人間の選択を支配すると言うことはできない。

    4. 選択肢が増えるほど自律性(Autonomy)が常に高まるとは言えない。

    5. AIによる選択肢生成(Option Generation)が中立であるとは言えない。

    6. AIによる順位付け(Ranking)が中立であるとは言えない。

    7. 個別化された推奨(Personalized Recommendation)が、利用者の最善利益(Best Interest)を反映しているとは限らない。

    8. AIへの委任(Delegation)が一般に自律性を低下させるとは言えない。

    9. AIへの委任が一般に自律性を維持するとも言えない。

    10. 事前拘束(Precommitment)が常に自律性を維持するとは言えない。

    11. 説明(Explanation)が理解を保証するとは言えない。

    12. 説明が、人間による独立した判断(Independent Human Judgment)を保証するとは言えない。

    13. 流暢なAI説明が一般に批判的思考(Critical Thinking)を低下させるとは言えない。[D2-S09]

    14. AI助言への高い追従率(Advice Following)が、不適切な依拠(Inappropriate Reliance)を意味するとは言えない。[D2-S10]

    15. 専門家が誤ったAI助言を安定して修正できるとは言えない。

    16. 人間によるレビュー(Human Review)が意思決定品質の改善を保証するとは言えない。[D2-S08][D2-S09]

    17. Human–AI Teamが一般にHuman AloneとAI Aloneの双方を上回るとは言えない。[D2-S08]

    18. 人間だけによる意思決定が、本質的により自律的であるとは言えない。

    19. 認知的オフローディング(Cognitive Offloading)が長期的な判断技能の萎縮(Decision-skill Atrophy)を引き起こすとは言えない。[D2-S11]

    20. Agentic AIが必然的に意味のあるHuman Authorityを消失させるとは言えない。


    27. Boundary Conditions

    Human–AI Decision研究を比較するとき、最低限以下を記録する。

    • Population(対象集団)

    • Expertise(専門性)

    • AI / System Type(AI・システム種類)

    • Model / Version(モデル・バージョン)

    • Task(課題)

    • Stakes(結果の重大性)

    • Human Baseline(人間単独基準)

    • AI Accuracy(AI精度)

    • AI Error Distribution(AIエラー分布)

    • Time Pressure(時間圧)

    • Number of Alternatives(選択肢数)

    • Option Source(選択肢生成主体)

    • Filtering

    • Ranking

    • Default

    • Framing

    • Confidence Display(確信度表示)

    • Explanation

    • Verification Cost(検証コスト)

    • Organizational Constraint(組織的制約)

    • Commercial Incentive(商業的インセンティブ)

    • Authority

    • Delegation Scope(委任範囲)

    • Revocation(取消可能性)

    • Reversibility

    • Execution Capability(実行能力)

    • Contestability

    • Outcome

    • Follow-up

    • Responsibility Structure(責任構造)


    28. Cross-References

    Domain 0 — Cross-Domain Audit Protocol

    Authority / Formation / Influence / Execution / Responsibilityの横断規格。

    Domain 1 — Learning・Capability Formation

    Cognitive Offloading ≠ Skill Degradation。AI支援利用とHuman Capabilityの分離。

    Domain 3 — Trust・Reliance・Calibration

    Trust ≠ Reliance ≠ Appropriate Reliance。Confidence ≠ Accuracy。

    Domain 4 — Communication・Mediation・Translation

    Framing、Persuasion、Explanation、SycophancyとDecision Formation。

    Domain 6 — Mental Health

    AI Advice、Help-Seeking、Reality Testing、Clinical Judgment。

    Domain 7 — Care・Aging・Supported Decision-Making

    Decision Support、Consent、Decision Authority。

    Domain 8 — Accessibility・Assistive Technology・Participation

    Support、Autonomy、Functional Independence。

    Domain 9 — Work・Organization・Algorithmic Management

    Organizational Pressure、Mandatory AI Use、Management Recommendation。

    Domain 10 — Oversight・Safety・Control

    Human Review、Override、Execution、Control。

    Domain 11 — Institution・Law・Governance・Responsibility

    Institutional Authority、Contestability、Appeal、Responsibility、Legitimacy。

    Domain 12 — Finance・Consumer・Credit・Insurance

    Information、Advice、Recommendation、Best Interest、Delegation、Execution。


    29. Source Ledger

    [D2-S01] Tversky & Kahneman (1981)

    Citation
    Tversky, A., & Kahneman, D. (1981). The Framing of Decisions and the Psychology of Choice. Science, 211(4481), 453–458.

    DOI
    10.1126/science.7455683

    Source Type
    Foundational Behavioral Experiment

    Research Tradition
    Decision Science / Behavioral Economics

    Evidence Layer
    Layer A — Existing Research Tradition

    Supports
    Equivalent Decision Problems can yield different choices depending on framing.

    Does Not Support
    Conversational Generative AIに同一Effect Sizeが存在すること。


    [D2-S02] Sniezek & Buckley (1995)

    Citation
    Sniezek, J. A., & Buckley, T. (1995). Cueing and Cognitive Conflict in Judge-Advisor Decision Making. Organizational Behavior and Human Decision Processes, 62(2), 159–174.

    DOI
    10.1006/obhd.1995.1040

    Source Type
    Behavioral Experiment

    Research Tradition
    Judge–Advisor Systems

    Evidence Layer
    Layer A

    Supports
    Initial Judgment、Advice、Final Judgmentを分離してAdvice Influenceを研究するJASのPrior Art。

    Does Not Support
    Advice InfluenceがFormal Authority Transferを意味すること。


    [D2-S03] Bailey et al. (2023)

    Citation
    Bailey, P. E., Leon, T., Ebner, N. C., Moustafa, A. A., & Weidemann, G. (2023). A meta-analysis of the weight of advice in decision-making. Current Psychology, 42, 24516–24541.

    DOI
    10.1007/s12144-022-03573-2

    Source Type
    Meta-analysis

    Research Tradition
    Advice Taking / Judge–Advisor Systems

    Evidence Layer
    Layer A

    Supports
    Advice WeightがContext、Advisor、Judge等によって変化すること。

    Does Not Support
    一つのUniversal WOA値をAI Adviceへ適用すること。


    [D2-S04] Mosier et al. (1998)

    Citation
    Mosier, K. L., Skitka, L. J., Heers, S., & Burdick, M. (1998). Automation Bias: Decision Making and Performance in High-Tech Cockpits. The International Journal of Aviation Psychology, 8(1), 47–63.

    DOI
    10.1207/s15327108ijap0801_3

    Source Type
    Experimental Human Factors Research

    Evidence Layer
    Layer C — Adjacent Evidence

    Supports
    Automation BiasにおけるOmission / Commission Errorの存在。

    Does Not Support
    Modern LLMで同じEffect Size・Failure Patternが必ず生じること。


    [D2-S05] Parasuraman & Manzey (2010)

    Citation
    Parasuraman, R., & Manzey, D. H. (2010). Complacency and Bias in Human Use of Automation: An Attentional Integration. Human Factors, 52(3), 381–410.

    DOI
    10.1177/0018720810376055

    Source Type
    Review / Integrative Model

    Evidence Layer
    Layer A / C

    Supports
    Automation BiasとAutomation Complacencyを、Attention、Workload等と関連づけて分析するPrior Art。

    Does Not Support
    Automation Biasを単なるTrustとして説明すること。


    [D2-S06] Dietvorst et al. (2015)

    Citation
    Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err. Journal of Experimental Psychology: General, 144(1), 114–126.

    DOI
    10.1037/xge0000033

    Source Type
    Behavioral Experiments

    Evidence Layer
    Layer C

    Supports
    Algorithm Errorを観察した後にAlgorithmを過少利用する条件。

    Does Not Support
    People generally distrust AI.


    [D2-S07] Logg, Minson & Moore (2019)

    Citation
    Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm Appreciation: People Prefer Algorithmic to Human Judgment. Organizational Behavior and Human Decision Processes, 151, 90–103.

    DOI
    10.1016/j.obhdp.2018.12.005

    Source Type
    Behavioral Experiments

    Evidence Layer
    Layer C

    Supports
    一定条件でAlgorithmic AdviceがHuman Adviceより強く利用されること。

    Does Not Support
    Algorithmic AdviceへのHigh RelianceがAppropriate Relianceであること。


    [D2-S08] Vaccaro, Almaatouq & Malone (2024)

    Citation
    Vaccaro, A. G., Almaatouq, A., & Malone, T. W. (2024). When combinations of humans and AI are useful: A systematic review and meta-analysis. Nature Human Behaviour.

    DOI
    10.1038/s41562-024-02024-1

    Source Type
    Preregistered Systematic Review / Meta-analysis

    Evidence Layer
    Layer B — Direct Human–AI Evidence

    Evidence Base
    106 experiments / 370 unique effect sizes.

    Main Result
    Human–AI Combination vs Best Solo Performer:
    Hedges' g = -0.23
    95% CI = -0.39 to -0.07.

    Supports
    Human–AI Combinationが自動的にBest Solo Performerを上回らないこと。Decision TaskとCreation Taskで結果が異なること。

    Does Not Support
    Human–AI Collaboration generally fails.


    [D2-S09] Lane et al. — Narrative AI

    Citation
    Lane, J. N., Boussioux, L., Ayoubi, C., Chen, Y. H., Lin, C., Spens, R., Wagh, P., & Wang, P.-H. The Narrative AI Advantage? A Field Experiment on AI-Augmented Evaluations of Early-Stage Innovations.

    Publication Status
    Harvard Business School Working Paper 25-001.

    Source Type
    Field Experiment / Working Paper

    Evidence Layer
    Layer B

    Population
    228 evaluators.

    Decisions
    3,002.

    Conditions
    Human-only / Black-box LLM / Narrative LLM.

    Supports
    特定Innovation Screening TaskでNarrative ExplanationがAsymmetric Complianceを増加させ、Productive Overrideを減少させたこと。

    Does Not Support
    AI Explanation generally destroys critical thinking.
    すべてのExplanationがDecision Qualityを低下させること。

    Evidence Status
    B within studied conditions.


    [D2-S10] Luettgau et al. — Personal LLM Advice

    Citation
    Luettgau, L., Cheung, V., Dubois, M., Juechems, K., Bergs, J., Symes, L., Davidson, H., O'Dell, B., Kirk, H. R., Rollwage, M., & Summerfield, C. People readily follow personal advice from AI but it does not improve their well-being.

    Source
    arXiv:2511.15352v4.

    Version Date
    26 August 2026.

    Source Type
    Longitudinal Randomized Controlled Trial / Preprint

    Population
    UK representative sample.

    N
    6,474.

    AI/System
    GPT-4o, Llama-3.3-70B, Gemini 3 Pro.

    Follow-up
    2–3 weeks.

    Supports
    最大79%のParticipantsがAI Adviceに従ったとSelf-reportしたこと。High-stakes AdviceでもSelf-reported Followingが65%以上だったこと。

    Does Not Support
    Verified Actual Behaviorが79%だったこと。High FollowingがInappropriate Relianceを意味すること。

    Evidence Status
    B for reported outcomes.


    [D2-S11] Zhu et al. (2026)

    Citation
    Zhu, Q., Li, X., Dong, Y., Chang, P., & Fan, M. (2026). Not all cognitive offloading is equal: distinguishing dependent and autonomous offloading to generative AI. Frontiers in Psychology, 17, 1878629.

    DOI
    10.3389/fpsyg.2026.1878629

    Source Type
    Three-wave Time-lagged Survey

    Evidence Layer
    Layer B

    Population
    University students and early-career knowledge workers.

    N
    589.

    Supports
    Dependent / Autonomous OffloadingとPerceived Cognitive Agency、Intrinsic Motivation、Self-reported Cognitive Outcomesとの異なるAssociation。

    Does Not Support
    Objective long-term Skill Atrophy。
    Causal Cognitive Decline。
    Long-term Decision Skill Degradation。

    Evidence Status
    B for observed associations.
    E for objective long-term skill-loss claims.


    30. Research Gaps

    Decision Formation Measurement

    Option Generation、Filtering、Ranking等へのAI InfluenceをFinal Choiceとは独立にどう測るか。

    Option-set Effects

    Generative AIが「何を選ばせたか」だけでなく「何を候補として生成しなかったか」をどう評価するか。

    Personalized Choice Architecture

    Conversational AIによる動的PersonalizationがFixed Interface(固定UI)とどう異なるか。

    Longitudinal Delegation

    数か月・数年のAI Delegationが、

    • Decision Habit

    • Skill

    • Autonomy

    • Monitoring Behavior

    • Responsibility Attribution

    へ与える影響。

    Objective Cognitive Outcomes

    Offloading Styleと客観的なDecision Skill、Retention、Transferとの関係。

    Effective Contestability

    AppealやHuman Reviewが形式的に存在するだけでなく、実際にDecision Correctionへつながる条件。

    Agentic Execution

    長期間にわたるAI Execution AuthorityがHuman Control、Welfare、Responsibilityへ与える影響。


    31. Existing-Theory-First Final Judgment

    Domain 2の主要な現象の大部分は、

    • Decision Science

    • Judge–Advisor Systems

    • Advice Taking

    • Choice Architecture

    • Automation Bias

    • Algorithm Aversion / Appreciation

    • Human Factors

    • Principal–Agent Theory

    • Shared / Supported Decision-Making

    等の既存研究へ接続できる。

    Generative AIには、

    • Dynamic Conversational Framing(動的対話フレーミング)

    • Personalized Recommendation(個別化推奨)

    • Natural-language Rationale Generation(自然言語理由生成)

    • Cross-domain Advice(領域横断助言)

    • Agentic Execution(エージェント型実行)

    など、既存研究へ追加検証が必要な条件が存在する。

    したがって現在の判定は、

    Existing theory mostly sufficient — AI-specific extension useful

    である。

    New Comprehensive Decision Theory:No


    32. Final Assessment

    Human–AI Decision-Making(人間とAIの意思決定)を監査するとき、

    最後に誰が選んだか(Who made the final choice?)

    だけでは不十分である。

    必要なのは、

    誰が判断空間を構成したか(Who constructed the decision space?)

    まで確認することである。

    AIはFormal Authorityを持たなくても、

    • 情報を選び

    • Optionを生成し

    • 一部を除外し

    • Rankingし

    • Evaluation Criteriaを提示し

    • Recommendationし

    • Explanationを生成する

    ことでDecision Formationへ関与できる。

    しかし、

    AI Influence
    ≠ Human Powerlessness

    である。

    また、

    Human Final Approval
    ≠ Effective Human Control

    でもある。

    したがって、Domain 2で監査する基本単位は、

    Person × AI/System × Decision Task × Goal × Information × Option Set × Formation Process × Authority × Execution × Context × Outcome × Time Horizon

    である。

    最終的に問うべきなのは、

    AIが決めたか、人間が決めたか

    という二択ではない。

    より限定された問い、

    誰が情報を選び、誰が選択肢を作り、誰が評価基準を設定し、誰が推奨し、誰が最終選択し、誰が実行し、誰が変更・停止でき、誰が結果に責任を負うのか。

    である。

    領域 2 / Domain 2は、新しい意思決定理論ではない。

    AIが人間のDecisionへ関与するとき、「最後に誰が決めたか」だけで判断の主体性を評価しないための、Decision Formation監査である。

     
     
    特定の組織的利害から距離のある一個人として、Human–AI Relations 監査インデックス βを公開しています。 既存研究と一次資料を優先し、複数AIによる敵対監査を重ね、領域別に整理しています。 一個人が公開することにも、それなりの意義があるはず……あるといいな。

    あなたへのおすすめ