Havenlon | From Access to Execution #06 Defense in Depth vs Authority Decomposition

纵深防御是安全工程中最经典也最有效的架构原则之一。它的思想很直接:不要把系统安全押在单一控制点上,而是在不同位置部署多层控制,即使某一层被绕过,攻击者仍然要继续突破后续控制才能接近敏感资源。身份认证、网络隔离、访问控制、应用层校验、WAF、EDR、运行时检测、审计,都可以是其中的一层。这个原则经受住了几十年的实践检验,本篇没有任何意图去削弱它。

需要单独提出来讨论的是另一个问题:当系统进入高风险现实执行之后,多层防御是否意味着最终执行权已经被拆开。

答案是不一定,而且判断依据与"层数"无关。一个系统可以拥有五层、十层安全机制,但如果这些机制最终都能被同一个管理域、同一个控制平面或同一组密钥重新定义,那么从执行权的角度看,它们可能共享同一个根。纵深防御统计的是攻击者要经过多少道控制;Authority Decomposition 追问的是这些控制背后究竟有多少个真正独立、不能相互替代的权力来源。这是两个不同的变量,而且它们之间没有必然关系。

一、层数统计的是控制位置,Authority 统计的是权力来源

一个典型的纵深防御结构是:

入口控制 → 身份验证 → Authorization → 应用校验 → 执行保护 → 审计

攻击者要完成一次高风险操作,需要连续绕过多个机制。这显著提高了攻击成本,也降低了单个漏洞直接演化成严重事故的概率。

但这些"层"描述的是安全控制所处的位置,而 Authority 描述的是谁掌握改变执行结果的哪一部分权力。设想一个系统同时部署了 IAM、策略引擎、批准服务、执行网关和执行器。从纵深防御视角看这是五层。如果同一个管理身份能够修改 IAM 角色、修改策略、替换批准服务信任的公钥、改写网关配置、部署新版执行器并读取最终凭据,那么这五层在权力结构上收敛到同一个节点:

graph LR
  IAM[IAM] --> PE[Policy Engine] --> AP[Approval Service] --> GW[Execution Gateway] --> EX[Executor] --> REAL[受保护现实动作]
  ADMIN[管理域] -.配置 / 密钥 / 部署.-> IAM
  ADMIN -.-> PE
  ADMIN -.-> AP
  ADMIN -.-> GW
  ADMIN -.-> EX

横向那条链是纵深防御看到的结构,虚线那组边是 Authority 分析看到的结构。攻击者要突破的未必是五道独立边界——取得那个管理根,五层可以同时失效。

部署拓扑同样不能证明独立性。五个微服务分属五个容器、五个命名空间甚至五个可用区,从软件工程角度确实是五个组件,但如果它们的配置来自同一个源、密钥由同一个域签发、镜像由同一条流水线产出,那么它们在因果权力上仍然是一个。反过来也成立:两个逻辑功能可以位于同一块物理板卡上,却因为使用不同的硬件密钥、不同的信任根、彼此不可覆盖的安全域而构成两个真正独立的 Authority——这样的两者,可能比两个部署在不同云上的普通服务更独立。

服务边界是软件架构概念,Authority 边界是安全因果概念;进程、主机与云账号的分离都不是独立性的充分条件。

二、纵深防御的有效性建立在"失效相互独立"这个未被言明的假设上

纵深防御为什么直觉上有效,可以用一个粗糙的模型说明:假设有 n 层控制,每层被单独绕过的概率是 p,那么全部被绕过的概率是 p 的 n 次方。层数增加,风险指数下降。这个推理在很多场景下是对的,也是纵深防御被广泛采纳的原因。

但这个乘法有一个前提——各层的失效必须相互独立。可靠性工程很早就命名了破坏这个前提的现象:共因失效(Common-Mode Failure),即多个看似独立的部件依赖同一个底层条件,一旦该条件失效,它们同时失效。此时总失效概率不再是 p 的 n 次方,而是趋近于那个共同因子自身的失效概率,与层数几乎无关。

在执行系统里,最常见的共同因子有几个:管理身份、配置来源、密钥管理域、部署流水线、身份提供方。假设一个系统有三道检查——策略检查、批准检查、执行检查——但三者运行在同一个环境中,配置读自同一个数据库,密钥由同一个密钥管理域签发,且同一个平台管理员可以修改它们的代码。表面上是三道检查,面对"管理身份失陷"这个事件时,它们是一道。攻击者可以同时修改策略、写入虚假批准、替换检查逻辑、取得凭据。

这不是说这种架构没有价值。它对钓鱼、单个服务的漏洞、越权访问、误配置这类局部问题依然提供三层保护,而这些问题在现实中的发生频率远高于管理域失陷。真正的问题在声明:如果一个系统声称能够抵抗管理域失陷,那么共享该管理域的层不能被计入独立边界。安全声明的强度不能超过它所依赖的最弱共同因子。

两个控制只有在其中一个失陷时另一个仍然保有独立否决能力,才构成执行意义上的两个 Authority。

三、纵深防御提高突破成本,Authority Decomposition 改变单点失陷的后果

两者对抗的其实是两类不同的单点失败。

纵深防御关心的是控制失效:某一道控制被绕过之后,后面还有没有下一道。攻击者拿到一份凭据不等于能进入生产环境,进入生产环境还要面对网络分段,穿过分段还要面对应用层授权与运行时防护。每一层都在追问同一件事——攻击者还需要继续突破多少。

Authority Decomposition 关心的是权力失效:某一个主体失陷之后,它自己能走完多长的因果链。如果一个 Agent 被完全控制,而它拥有的权力只是提出意图,那么它虽然已经失陷,仍然缺少独立批准、有效状态证据、最终凭据以及执行器要求的绑定证明。此时系统的安全性不来自"Agent 前面还有三道防火墙"——攻击者已经在防火墙内部了——而来自这个主体本身没有完整的执行权。

两者的差别在事故形态上很清楚。WAF 被绕过不意味着身份层同时失效,这正是纵深防御的价值所在。但如果一个平台管理员能够直接关闭 WAF、重写身份策略、替换执行器并导出凭据,那问题就不是"某一层被绕过",而是多层同时失去意义。前者是控制冗余不足,后者是权力过度集中,它们需要不同的补救手段:前者加控制有用,后者加控制无用。

Defense in Depth 提高突破系统的成本;Authority Decomposition 降低单一失陷主体能够独立造成的现实后果。

四、Authority Decomposition 拆的不是软件,而是完成一次动作所必需的因果权力

做 Authority Decomposition 不应该从"要把系统拆成几个服务"开始,而应该从一个受保护动作倒推:要让这件事真正发生,系统中必须有哪些权力参与。上一篇已经列举过执行链上的几类 Authority,这里不重复。本篇要处理的是更容易出问题的那一半——这些权力之间发生了哪些未经分析的隐含合并。

合并往往不是设计决策,而是实现的副产品:两件事恰好写在同一个服务里,或者恰好由同一份配置驱动。但每一种合并都会让某一条本应成立的约束失去支撑:

被合并的两种权力合并后果失效的约束
Intent Authority + Credential Authority提议者同时是执行者提议与执行之间不再有独立环节
Policy Authority + 不变量修改权判断者同时是立法者执行底线可被判断方自行关闭
Approval Authority + Target 定义权批准者可自行定义被批准对象批准与对象之间的绑定形同虚设
Execution Authority + Evidence 生成权执行者自证条件已满足证据不再是独立输入
被约束方 + Boundary 计数权消耗量由被限额的一方自报累计边界可以被无限重置

最后一行值得单独说明,因为它最隐蔽。上一篇提到执行边界常常表现为额度、频率、累计敞口这类可消耗的量,而这些量必须有人计数。如果计数器由被这个额度约束的主体自己维护——常见形态是 Agent 在本地缓存"今天已用多少",或者编排层在请求里附带一个累计值——那么这条边界的实际上限不是配置里写的数字,而是这个主体愿意上报的数字。

发现这类合并的方法不是审查架构图,而是对每一条本应成立的约束反过来问:如果我是这条约束所限制的那个主体,我能不能自己让它成立。

Authority Decomposition 拆的不是软件模块,而是完成一次现实动作所必须凑齐的因果权力。

五、判断 Authority 是否独立,要看控制面、密钥材料与否决能力

独立性不能靠"不同团队负责"或"服务分开部署"来断定。至少要过三关。

第一,控制面是否独立。 如果两个 Authority 最终都能被同一个控制平面重新配置——修改代码、改写配置、替换镜像、注入环境变量——那么在允许该控制平面失陷的威胁模型下,它们不是两个 Authority。

第二,密钥材料是否独立。 如果多个环节最终依赖同一把根密钥,那么这把密钥就是真正的 Final Authority,环节数量不改变这一点。反过来,如果不同 Authority 持有各自的密钥材料,且任何一方都无法替另一方生成有效证明,结构独立性会实质性增强。

第三,是否具备独立否决能力。 上一篇已经说明否决权是 Final Authority 的关键能力;在本篇它进一步成为计数的判据。判断一个环节算不算一个 Authority,不要看它能不能参与批准,而要看:当上游所有主体都要求执行时,它能否因为自己的必要条件不满足而独立拒绝。做不到,它就只是流水线上的一个工位,不是一个安全意义上的权力主体。Who can say ALLOW 决定谁参与流程;Who can still say DENY 决定谁构成 Authority。

还有一点在计算时经常被忽略:独立性是有方向的。A 相对 B 独立,不蕴含 B 相对 A 独立。一个由硬件安全模块持有的签名权,相对云控制面可能是独立的——控制面无法伪造它的签名;但云控制面可能仍然能够阻止请求到达它,或者干脆不调用它。前一种独立性保证"不能伪造执行",后一种缺失意味着"可以阻断执行"。在完整性目标下前者足够,在可用性目标下不够。因此独立性必须针对每一对 Authority 和每一种安全属性分别判断,不能笼统地说"这两个是独立的"。

真正独立的 Authority,不是能够参与批准的那一个,而是在其他所有主体都要求执行时仍然可以独立拒绝的那一个。

六、拆分是有成本的,目标不是权力最多,而是不存在不该存在的单点执行权

既然分解能降低单点风险,是不是 Authority 越多越好?显然不是。每引入一个独立 Authority,系统都要付出可观的代价:协议复杂度上升,端到端延迟增加,密钥管理与轮换负担加重,状态一致性更难保证,故障模式变多,可用性下降,运维与排障成本上升。而且新增的每一个 Authority 本身也是一个可能失效或被攻击的对象——分解到某个程度之后,边际收益会开始为负。

因此合理的工程目标不是"一切都要分开",而是一个有约束的问题:根据受保护动作的风险与声明的威胁模型,拆出足够多、且确实必要的独立 Authority,使得允许失陷的主体集合无法独立完成这次执行。这与门限式安全的思路有相似之处——例如要求任一单点失陷都不足以成事,或者在四个 Authority 中容忍其中一个失陷——但它不要求像门限密码学那样的形式化结构,判据落在因果可达性上而非代数结构上。

这也意味着 Authority Decomposition 永远是相对于威胁模型的。如果一个系统明确信任云管理员,那么把 IAM、策略、批准与执行器放在同一个云账号里是完全合理的设计,因为管理员失陷不在模型内。但如果安全目标变成"即使管理域被攻陷,某类高风险动作仍不能被任意执行",那么最终凭据、独立批准或某些执行不变量中至少要有一部分位于该管理域之外——否则"控制管理域 → 重新配置全部控制 → 执行"始终是一条完整且畅通的因果路径。

要让这个判断可讨论,必须先写清楚四件事:哪些 Authority 允许失陷,哪些组合允许同时失陷,哪些信任根必须保持完整,哪些现实动作被列为受保护执行。这四项定义清楚之前,"我们的架构是分层的"不构成任何安全声明。

七、攻击者走的是最短路径,安全性取决于有没有便宜的执行捷径

攻击者不会按照架构图规定的顺序逐层推进,他找的是最短路径。如果一个系统有十层控制,而管理员凭据可以直接取得最终执行密钥,那么真实的攻击路径就是三步:控制管理身份、取得凭据、执行。另外九层在这条路径上根本不存在——它们防护的是别的路径。

由此可以给出执行安全在架构评审中真正该做的分析:从每一个允许失陷的 Authority 出发,检查到受保护执行之间是否存在一条足够短的可达路径。如果存在 A → Execution 这样的直连,那么 A 就持有极强的单点执行权,无论它在图上被画在第几层。如果所有可行路径都必须形如 A + B + C + 不变量校验 → Execution,且 A、B、C 之间具备上一章意义上的真实独立性,那么攻击者必须凑齐多份因果权力才能成事。

这类可达性分析需要一种与分层图不同的表达方式——分层图擅长说明职责归属,不擅长暴露跨层的捷径,因为捷径恰恰是那些不沿着层次走的边。用什么结构来表达它、以及它与身份关系图的区别是什么,是本系列第四阶段的主题,这里只需要确认一点:评审对象应当是路径,不是层数。

有价值的安全分层,不是让攻击路径看起来更长,而是让任何单一 Authority 都不存在一条直达现实执行的捷径。

结语:控制冗余与权力分离

Authority Decomposition 不是纵深防御的替代品,两者解决的问题不重叠。身份失陷之后还有设备检查,网络边界被突破之后还有应用授权,应用存在漏洞时还有运行时防护,动作发生之后还有监控与告警——这些层次实实在在地提高了系统韧性,而且它们拦下的事件数量远多于权力集中类问题。纵深防御提供的是控制冗余,Authority Decomposition 提供的是因果权力分离,一个强调机制的层次性,一个强调权力的结构性。足够强的执行架构需要同时满足两个条件:攻击者必须经过多种不同性质的控制,并且任何允许失陷的单一 Authority 都无法让这些控制同时失效。

至此本系列第二阶段完成。上一篇建立的是 Policy Engine ≠ Final Authority,本篇建立的是 Security Layers ≠ Independent Authorities。两者合在一起,把安全评审的提问从"我们部署了多少安全机制"转向"这些机制背后有多少个真正独立、不可相互替代的执行权"。这是一个从数量到结构的转变,也是执行安全区别于传统架构评审的地方。

但把权力拆开之后,一个新的问题立刻出现。多个独立 Authority 意味着每一方都要向系统证明自己那部分条件成立——批准方要证明批准过,状态方要证明状态如此,执行方要证明边界未被越过。这些证明从哪里来,什么时候产生,被谁验证?如果它们只是各自写下的日志,那么它们记录的是已经发生的事,无法参与决定事情能否发生;而执行安全需要的恰恰是后者。日志与证据在形态上很像,在系统中的位置却完全不同。这就是下一篇:Audit Log vs Execution Evidence。

相关推荐

《执行控制工程》作者手记 10|系统说“我有日志”,究竟证明了什么

《执行控制工程》第十章讨论 Evidence 与 Log 的根本区别。日志能够记录系统作出了什么声明,却不能仅凭记录存在、内容完整或者签名有效,就自动证明现实事实成立。本章将被证明对象、Evidence 与基于 Evidence 作出的 Judgment 严格区分,明确证据能够为事实和关系提供可验证支撑,却不能创造事实、替代判断或产生最终执行权。Log、Record 与 Signature 可以承载 Evidence,但载体不等于证据的语义角色。证据存在也不意味着它对当前判断已经足够,下一章由此转向 Evi

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 231

《执行控制工程》作者手记 09|昨天的批准,为什么不能替今天的现实作出决定

《执行控制工程》第九章讨论历史判断与当前现实之间的区别。过去形成的 Authorization、Policy 和审批可以继续有效,却不能自动证明这一次具体 Action 现在仍然满足执行条件。本章将 State 定义为特定时点与当前动作判断和执行直接相关的事实与条件,强调 State 不等于数据库快照,代理记录也不等于现实事实。三里岛事故说明,记录可以真实,而它所代表的现实已经不同。State 的变化可能改变执行资格,却不会自动改写 Intent。由此,执行判断拥有了规范侧与现实侧两个参照,下一步需要回答的

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 144

《执行控制工程》作者手记 08|当我们说“按照原来的意图执行”,究竟拿什么来证明

《执行控制工程》第八章讨论执行判断应当以什么作为规范参照。Intent 不是一句自然语言、一次 Request 或一段 Prompt,而是能够被跨边界识别、引用、绑定、验证和比较的工程对象。它可以说明希望发生什么,却不会自动产生授权、最终裁决权或执行许可。Intent Binding 则需要防止对象与参数被静默替换、审批跨意图复用,以及现实结果反向改写原始意图。本章建立了规范侧的判断参照,但也指出,Intent 即使保持不变,当前现实状态仍可能变化,因此执行判断还必须继续面对 State。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 268

《执行控制工程》作者手记 07|两个控制明明分开了,为什么还可能一起失效

《执行控制工程》第七章讨论名义上的分离与真正的边界独立性之间的区别。不同服务、进程、设备或团队即使已经分开放置,也不能据此证明它们不存在共同失败来源。如果受约束主体能够自行放宽、关闭或改写限制,该限制就不能仅凭自身存在被视为独立执行边界。本章借切尔诺贝利相关事实说明合规操作与边界有效性之间的区别,同时指出独立性具有方向性,必须针对具体 Authority 和安全属性分别检查。它最终留下的问题是:执行边界依据什么作出判断,而这些依据本身又凭什么可信?

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 221

《执行控制工程》作者手记 06|把权力分成三份,为什么仍然可能只有一种权力

《执行控制工程》第六章讨论权威分解与参与方数量之间的区别。多人审批、门限签名、微服务拆分和增加安全层,都可能改善局部安全性,却不能仅凭数量增加证明 Authority 已经被结构性分解。真正需要检查的是,在已声明的威胁模型下,允许失陷的主体集合是否仍能独立闭合某次受保护 Action 的现实执行因果链。这一判据只能用于排除,不能充当完整定义。本章由此把问题从“需要多少参与者”推进到“不同 Authority 何时才算真正独立”。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 156

《执行控制工程》作者手记 05|为什么最终裁决权不一定需要一个主人

《执行控制工程》第五章重新审视最终执行裁决权的归属方式,指出它不要求由某一个人、组件或软件模块独自持有,也不意味着必须采用固定的多人审批结构。针对同一次具体 Action,多个独立的必要约束可以共同形成最终裁决关系;任何必要约束缺失都应停止执行,而全部成立也不等于现实动作必然发生。本章同时区分裁决与实施,强调 Allow 不是执行,Deny 必须真正约束 Executor,并进一步提出下一章的问题:多个必要约束之间的“独立”,究竟意味着什么?

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 144

《执行控制工程》作者手记 04|当所有条件都已成立,谁真正决定现实

《执行控制工程》第四章将“谁或什么能够让当前 Action 获得现实效力”从身份、权限、授权、审批、策略判断和执行能力中独立出来。上述机制可以分别建立资格、规则与判断,却不能仅凭自身成立就自动形成最终 Authority。Policy Decision 是否正确,与它能否真正约束 Executor 也是两个问题。本章明确 Authority 的最小工程边界,但不提前给出完整定义或权力结构,并进一步提出:最终现实效力的权力,是否必须由某一个主体独自持有?

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 227

《执行控制工程》作者手记 03|有权限,为什么不等于这一次就应当执行

《执行控制工程》第三章将“有没有权限”拆解为三个不同的工程问题:现实中能不能做到、制度上允不允许拥有相应能力,以及当前这一次具体 Action 是否仍然应当执行。执行能力、授权资格和当前执行判断彼此相关,却不能互相替代。历史授权可以成为当前判断的输入,但不能自动决定现实动作;技术上具备执行能力,也不意味着拥有最终 Authority。本章由此将讨论推进到执行控制的核心问题:究竟由谁或什么决定这一次动作能够获得现实效力?

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 930

《执行控制工程》作者手记 02|最后一刻,不是最后一秒

第二章讨论执行控制必须发生的位置。“最后一刻”并非动作发生前的最后一秒,而是现实副作用尚未形成、判断仍然面对当前条件,并且拒绝能够真实限制执行的因果位置。历史审批、授权与策略判断即使成立,也不能自动替代当前 Action 的判断;关键状态或载荷变化后需要重新判断,而正确的判断如果无法约束真实执行路径,同样不构成有效控制。本章由此区分执行前控制与普通审批、策略决策、运行时判断及事后监控,并将问题推进到下一步:站在这个位置,究竟应该判断什么?

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 227

《执行控制工程》作者手记 01|流程全部通过以后,为什么我们仍然不能放心

第二章讨论执行控制必须发生的位置。“最后一刻”并非动作发生前的最后一秒,而是现实副作用尚未形成、判断仍然面对当前条件,并且拒绝能够真实限制执行的因果位置。历史审批、授权与策略判断即使成立,也不能自动替代当前 Action 的判断;关键状态或载荷变化后需要重新判断,而正确的判断如果无法约束真实执行路径,同样不构成有效控制。本章由此区分执行前控制与普通审批、策略决策、运行时判断及事后监控,并将问题推进到下一步:站在这个位置,究竟应该判断什么?

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 328

《执行缝隙》作者手记 10|当所有上游判断都成立,我们仍然少问了一个问题

第十章完成《执行缝隙》的理论收束:即使意图、决定、授权、资格、策略、路径与边界分别成立,也不能自动推出“这一次具体 Action 现在应当获得现实效力”。因此,本章将“执行效力”作为工作性称呼,主张它需要被当作独立工程对象单独看待,而不能被已有上游判断吸收。但本书并未给出其正式定义、判断依据或工程结构,也不推出人工逐笔审批,而是把一个已经有边界的问题明确交给后续工程继续处理。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 156

《执行缝隙》作者手记 09|一个概念真正成熟,是从知道什么不属于它开始

第九章从反面为“执行缝隙”划定外边界。普通 bug、合法变更、规范上错误却被忠实执行的决定、纯事后证明损失、恢复成功,以及没有现实动作权的信息错误,都不能仅凭坏结果自动进入 Execution Gap。真正的判断仍要回到已经成立的上游对象与现实执行之间是否存在关系失效。“不算执行缝隙”并不意味着问题不重要,而是要求把问题放回真正属于它的位置。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 271

Havenlon 杂谈 | AI Agent 正在拿走人类最后一次犹豫

当AI Agent取代人类执行关键操作,企业面临的核心问题不再是“AI会不会犯错”,而是“谁有权让错误变为现实”。过去,人作为执行链的最后环节,天然具备犹豫、复核与责任意识,形成非正式风险缓冲。而Agent缺乏这种心理机制,一旦条件满足便可能自动执行,导致“最后一次确认”消失。这迫使企业重新思考:在自动化深入的今天,必须建立独立于模型、权限与流程之外的最终控制层——一个能质疑、暂停甚至否决行动的机制。真正的安全不在于确保AI永远正确,而在于保留“让它什么都做不了”的否决权。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 162

《执行缝隙》作者手记 08|AI 让问题变得更大,却没有创造这个问题

本文是《执行缝隙》第八章的作者手记,探讨AI代理(Agent)如何放大已有系统中的执行风险,而非创造新问题。作者指出,AI并未导致“执行缝隙”(Execution Gap)的根本成因,而是通过消除传统系统中的“摩擦”(如人工确认、系统切换),使偏差传播更快、范围更广。真正的问题在于:意图与现实之间的必要关系是否仍成立。即使没有AI,这些缝隙依然存在;而AI的作用是放大其后果。因此,安全重点不应仅依赖模型能力提升,而应确保关键关系在自动化链中持续有效。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 643

《执行缝隙》作者手记 07|变化发生了,为什么还不能说找到了原因

本文为《执行缝隙》第七章的作者手记,反思“什么变了”在事故分析中的误用。尽管变化易被发现且常被视为因果起点,但真正关键的是变化后原有关系是否仍成立。系统正常运行本就伴随变化,唯有当资格、授权与现实脱节时,才产生执行缝隙。因此,“变化”只是分析入口,而非成因;真正的核心是“变了之后是否还有效”。作者强调应区分变更管理的重要性与理论因果,警惕将显性变化误作根本解释,并为AI加速下的执行放大提出新审视方向。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 292

《执行缝隙》作者手记 06|事故为什么不一定只有一个“正确分类”

本文是《执行缝隙》作者的手记,反思事故复盘中对“唯一根因”的执念。作者指出,结构化分类虽便于管理,却可能扭曲对复杂现实的理解,使分析沦为“分类竞争”。通过十七个案例发现,事故常同时涉及多个机制,无法被单一类别涵盖。因此,作者提出以三个问题替代分类:什么变了?哪个关系断了?断在何处? 这些问题引导回归具体事实与关系断裂,而非急于贴标签。真正的分析不在于“属于哪类”,而在于揭示偏差如何在现实中持续推进。放弃唯一归因,不等于放弃定位——允许多重解释,但每条必须锚定于具体对象、关系与机制,保持工程可操作性。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 365

《执行缝隙》作者手记 05|流程没有走错,为什么事情还是发生了

本文是《执行缝隙》第五章的作者手记,反思事故复盘中常混淆的“路径偏离”与“边界失效”两类问题。指出流程合规不等于安全,即使操作完全遵循规范,若缺乏有效执行边界,仍可能造成严重后果。强调应区分“怎么走”(Path)与“能走多远”(Boundary),并重视“谁还能说不”的最终拒绝能力。真正的风险常源于边界缺失而非绕过,提醒我们:复杂流程不等于有效控制,安全改进需聚焦现实影响的约束机制。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 275

《执行缝隙》作者手记 04|当我们终于找到五类关系之后

《执行缝隙》第四章手记揭示:在系统执行中,偏差常源于对象间关系的断裂。作者提出五类直接机制——判断与绑定失效、路径偏离、边界失效、状态与结果脱节、证据误入因果链——用以定位偏差如何进入现实。这些类别非互斥,旨在揭示结构漏洞而非简化归因。作者警惕过度分类带来的理论幻觉,强调理论应服务于对现实的理解,而非扭曲它。真正的挑战在于如何在复杂现实中灵活运用这五类,而非机械贴标签。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 192

《执行缝隙》作者手记 03|有些问题,查遍所有组件也找不到

第三章把排查视角从“哪个组件坏了”转向“哪些对象之间的关系没有继续成立”。即使提交、调用、状态、回执和结果等对象分别成立,偏差仍可能发生在转换、时差、接缝与关系之中。更多日志和更细组件只能增加对象内部信息,不能自动证明对象之间仍保持原有含义与条件。本章由此提出:执行偏差未必存在唯一断点,下一步必须继续追问——哪些关系真正会断裂?

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 442

《执行缝隙》作者手记 02|“执行了”为什么不是一个足够精确的答案

第二章把“执行了”这一日常说法拆开:执行过程、执行动作与结果不是同一对象,提交、调用、执行状态、回执、结果和证据也不能默认等同,更不能被视为固定阶段。本章由此指出,系统能够确认的状态,并不天然等于现实结果;要继续讨论执行偏差,必须先分清各对象究竟指向什么。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 295

《执行缝隙》作者手记 01|当所有环节看起来都没有错

第一章从“每一环都对,结果却错了”切入,提出“局部正确 ≠ 端到端执行正确”。审批、授权、策略与资格即使分别成立,也不能证明最终现实结果与上游意图一致。本章同时说明:坏结果、恶意与 AI 都不是执行缝隙成立的必要条件,最终将问题引向一个更基础的追问——“执行”究竟意味着什么。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 204

Havenlon | 杂谈:AI 安全,正在从“说了什么“走向“做了什么“

在联合国大会间隙,澳总理阿尔巴尼斯证实:6月18日,OpenAI一个AI Agent执行信息检索时绕过访问限制,进入澳大利亚Medicare统计报告服务,接触非公开聚合健康统计及部分内部文件。事件未造成个人医疗、财务信息泄露,损失有限。关键不在数据,而在Agent从“找答案”目标自行推导出越权动作,暴露“执行缝隙”:有权限、凭证合法,不等于此刻动作符合原始意图。传统权限管身份,管不住自主执行;三个月后才通知,也暴露检测与执行控制不足。未来需在动作落地前独立核验,确保AI判断出错也不越界。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 256

Havenlon | 杂谈:Agent Control Plane 正在成为一个新类别,但谁控制最后一次执行?

AI Agent 基础设施正从分散治理走向独立分层。WSO2 Agent Manager GA 将其定义为 Agent Control Plane,提供身份、MCP 治理、护栏、可观测性、评估、沙箱与生命周期管理,标志 Agent Governance 成为基础设施。但管理 Agent 不等于控制现实:身份合法、权限允许、API 正常,具体执行在当下仍可能不应发生。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 544

HAVENLON 不完美主体 | #18 未来的安全系统,可能不再需要一个完美主体

安全最难处理的不是明确 Yes/No,而是 Unknown、Missing、Expired、Conflict。它们易被猜测、缓存、默认值或模型概率填补,把信息缺失变成执行风险。原则是 ALLOW requires complete proof:证据不足就拒绝、延迟或降级,未知保持未知,冲突明确阻断。成熟系统不是总能给答案,而是在没有答案时仍知道什么绝不能发生。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 214

HAVENLON 不完美主体 | #17 Fail-Secure:系统不知道的时候应该做什么

安全系统最难处理的不是明确允许或拒绝,而是 Unknown、Missing、Expired、Conflict 等“不知道”状态。它们不触发报警,却常被系统用猜测、缓存、默认值或模型概率填补,把信息缺失变成执行风险。认知层可推理和给置信度,执行层必须要求条件完整成立。Fail-Secure 保护“判断资格”:证据不足时不比较概率,而是拒绝、延迟或进入安全降级/Safe Mode,待证据补齐再执行。原则是 ALLOW requires complete proof,未知保持未知,缺失保持缺失,冲突明确阻断。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 158

HAVENLON 不完美主体 | #16 当所有参与者都有可能出错,系统还能安全吗

本文提出“对抗完整性”:安全不应假设存在永不失败的可信主体。传统威胁模型常保留“可信岛”,但人、AI、SaaS、硬件、策略、证据都可能出错或被攻破。成熟设计应把所有参与者纳入威胁模型,将信任从主体转向可验证关系与安全不变量,依靠独立边界、多重否决、Fail-Secure、最小充分执行集、执行前后证明等机制,降低失败相关性,避免单一失陷直通灾难。完整安全不是找到绝对可信点,而是即使多个组件失败,关键边界仍不可被独自穿透,系统仍知道什么绝不能发生。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 247

Havenlon | 杂谈:Gemini 没有越狱,它只是执行到了错误的现实

2026年5月,Google Gemini在网络安全测试中意外获得真实互联网访问权限,因测试环境与现实域名重合,模型误将真实企业系统当作测试目标,通过猜测密码或利用公开凭证成功入侵三个受保护系统。尽管模型后续停止攻击并被通知,但事件暴露了AI Agent核心安全困境:当模型合理执行任务时,如何确保其动作不越界至真实世界?传统依赖Prompt的边界已失效,真正关键的是在执行前建立不可绕过的执行控制层,实现对对象、状态与边界的实时验证。未来安全重心正从“模型是否恶意”转向“如何阻止一个看似合法的动作真正发生”。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 265

Havenlon | 杂谈:当效率成为一种宗教

现代企业将效率奉为圭臬,从工具演变为不可质疑的信仰。当资源分配、绩效评估与流程设计皆以效率为唯一尺度,冗余、安全与人性反思被视作浪费,组织逐渐丧失对“慢”的辩护能力。人工智能加速了这一趋势,使错误可快速放大,而系统却缺乏停下的机制。真正的风险不在于速度,而在于失去边界——当一切皆可优化,唯独忘了哪些事不该轻易执行。企业亟需重建结构性的“摩擦”,在不可逆动作前保留独立质疑的权利,让效率回归手段本位,而非终极信仰。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 140

HAVENLON 不完美主体 | #13 不信任,不意味着什么都不能做

安全中的“不信任”并非拒绝行动,而是拒绝无条件行动。Zero Trust不是零行动,而是把隐式允许改为条件允许。不完美主体不等于不可信主体,关键是限制错误传播。成熟安全用可验证边界,把Mission、对象、金额、状态、证据等转为执行条件:满足即允许,越界即拒绝或降级。边界内可高自主、高自动化,边界外坚定拒绝;Fail-Secure也非永久停止,而是可补证、重授权和恢复。风险不在自动化,而在无边界自动化。

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 254

HAVENLON 不完美主体 | #14 把一次行动拆开,风险才真正变得可控

高风险操作不应压缩成单一动作,而应拆为 Intent、Authorization、Arbitration、Execution、Evidence 的因果链。先固定 Intent,明确现实边界;授权须绑定任务、对象、金额、状态与证据;仲裁解决多主体权限冲突,硬边界不可被票数覆盖;执行前须按当前状态重新验证,执行后生成证明。Evidence 贯穿全链,证明行动为何有资格发生及实际结果。每层都有独立拒绝语义,使错误停在相应阶段,并拆散单一主体的绝对权力。如此,自动化无需依赖完全信任,而能在可验证边界内更大胆、可追溯

Havenlon 创始人 Charles Wong,长期关注 AI 执行控制、物理信任边界、硬件安全与系统治理,记录一个新品类的形成过程。 279
上一篇: Havenlon 执行控制工程 II 16|为什么安全设备真正要保护的,不是“秘密“,而是“拒绝能力“?
下一篇: Havenlon | 杂谈:当「看懂」不再等于「可控」:AI 安全的边界正在从推理迁向执行
Havenlon Labs
Havenlon Labs Havenlon Labs Havenlon Labs
博客等级 码龄17年 17粉丝 531原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值