1. 这不是新赛道,而是 runtime 层的“操作系统时刻”正在重演
你打开终端,敲下
docker run -it ubuntu:24.04
,几秒后一个干净、隔离、可复现的 Linux 环境就跑起来了——你根本不用关心它底层是跑在 Intel 还是 AMD 芯片上,也不用管宿主机装的是什么内核版本。这种“抽象掉硬件差异、让上层应用专注逻辑”的能力,就是操作系统(OS)最核心的价值。而 Anthropic 在 2026 年 4 月 8 日发布的
Claude Managed Agents
,干的正是同一件事,只不过这次被抽象掉的,不再是物理 CPU 和硬盘,而是
LLM 的上下文窗口、沙盒生命周期、凭证管理、会话状态持久化
这些原本由每个团队自己“手搓”的、千奇百怪又极易出错的基础设施。
我第一次在生产环境里部署一个需要调用 7 个内部 API、做 3 轮文档检索、再生成一份合规报告的客服助手时,用的就是最原始的“上下文堆叠法”:把所有历史对话、工具返回结果、用户上传的 PDF 文本摘要,一股脑塞进 prompt 里,靠模型自己“记住”。结果呢?第 38 分钟,当它正要调用第 5 个工具时,上下文满了。模型没报错,也没中断,它只是默默地把最早那条“用户说‘我昨天提交了工单 #12345’”给挤掉了,然后基于一个残缺的、自我编造的历史,给用户回复:“您尚未提交任何工单”。客户投诉来了,我们翻日志——没有日志。想重放调试?不可能,因为整个会话状态只活在那一段 token 流里,流完就没了。那次事故直接导致我们暂停了所有长流程 agent 上线两周,全组人蹲在会议室白板前,用马克笔画出了第一个“外部状态层”的草图:Redis 存 session ID,PostgreSQL 存每一步 trace,S3 存原始文件快照。这个草图,就是 Anthropic 现在拿去融资 PPT 里讲的“session-as-event-log”模式的 1.0 版本。
所以,别被“Anthropic 又发了个新模型”这种标题骗了。Managed Agents 的核心关键词根本不是“Claude”,而是
“Harness”、“Sandbox”、“Session”
这三个词。它们共同构成了一个
运行时抽象层(Runtime Abstraction Layer)
。就像当年 Linux 内核用
fork()
和
exec()
抽象了进程创建,用
open()
/
read()
/
write()
抽象了文件 I/O 一样,Anthropic 现在定义了
awake(sessionId)
、
execute(toolName, input)
、
checkpoint()
这些稳定接口。这意味着,未来你写一个“自动处理报销单”的 agent,它的核心业务逻辑(比如怎么识别发票金额、怎么校验预算规则)可以完全和“它跑在 AWS 还是 Azure”、“用的是 Claude 还是 Gemini”、“沙盒是用 Firecracker 还是 gVisor 启动的”解耦。这才是真正让开发者松一口气的地方——你终于可以像写 Python 脚本一样写 agent 逻辑,而不用再为“怎么安全地把数据库密码传给沙盒”、“怎么防止模型把 session ID 当成普通文本输出”、“怎么在沙盒崩溃后从第 17 步继续执行”这些脏活累活失眠。
这个抽象层的价值,在于它把一个原本极度碎片化、高度定制化的工程问题,变成了一个有标准接口、有明确 SLA、有统一计费模型的 云服务产品 。它不解决“agent 能不能写好代码”这个 AI 能力问题,它解决的是“agent 怎么能稳稳当当地、安全地、可审计地、可扩展地跑起来”这个工程落地问题。而历史已经反复证明:一旦某个技术栈的“运行时”被成功抽象并标准化,它的价值就会迅速向上下两层迁移——上层的应用逻辑会爆发式创新,下层的硬件/虚拟化则会加速 commoditize(商品化)。现在,这个迁移的齿轮,已经开始转动了。
2. 核心架构拆解:为什么是 Session、Harness 和 Sandbox 这三块拼图?
Anthropic 的工程博客里反复强调的“Session as durable event log”、“Harness as stateless executor”、“Sandboxes as cattle, not pets”,绝不是营销话术,而是对当前 agent 工程实践中三大痛点的精准外科手术。我们来一层层剥开,看看这三块拼图各自解决了什么,以及它们之间如何咬合。
2.1 Session:从“易失性内存”到“永久性事件总线”
在传统 LLM 应用中,“会话”(Session)是一个非常模糊的概念。它可能是一段存在 Redis 里的 JSON 字符串,可能是一张数据库表里的一行记录,也可能干脆就只是前端页面 URL 里的一个 query 参数。它的生命周期完全依赖于应用代码的健壮性。一旦服务重启、网络抖动、或者模型自己“忘了”,这个 session 就断了,用户就得从头开始。
Anthropic 的 Session 设计,本质上是把会话状态从“内存变量”升级成了“数据库事务日志”。每一个用户与 agent 的交互,都被原子化地记录为一条不可变的事件(Event):
-
Event: user_message("请帮我分析这份财报") -
Event: tool_call("pdf_extractor", {"file_id": "abc123"}) -
Event: tool_result("pdf_extractor", {"text": "2025年Q4营收增长12%..."}) -
Event: model_output("根据财报,公司Q4表现强劲...")
这些事件按时间戳严格排序,存储在 Anthropic 自建的、高可用的分布式日志系统中。关键点在于: 这个日志本身,就是 session 的唯一真相源(Source of Truth) 。Harness(执行器)在启动时,不是去加载一个“当前状态快照”,而是去读取这个日志流,从头开始“重放”(replay),直到构建出当前所需的状态。这就带来了几个革命性的优势:
-
极致的容错性
:Harness 进程挂了?没关系,新的 Harness 实例拿到
sessionId,重新awake(),它会自动从日志里重放所有事件,瞬间恢复到崩溃前一刻的状态。用户甚至感觉不到中断。 - 完美的可审计性 :你想知道“为什么 agent 给出了错误结论?”——直接查这条 session 的完整事件日志。你能看到它调用了哪个工具、工具返回了什么原始数据、模型是如何基于这些数据推理的。这比任何“模型解释性”技术都更直接、更可靠。
-
灵活的回溯与调试
:开发时,你可以指定一个
eventId,让 Harness 从那个点开始重放,快速复现某个特定环节的问题。线上出 Bug?运维可以直接导出某次失败 session 的日志,发给算法同学,对方不用搭环境,直接看日志就能定位是工具返回异常,还是 prompt 指令歧义。
提示:这种设计并非凭空而来。它直接借鉴了金融交易系统(如 Kafka + Event Sourcing)和数据库 WAL(Write-Ahead Logging)的成熟思想。其代价是写入延迟略高(每次操作都要先写日志),但换来的是无与伦比的读取一致性和故障恢复能力。对于 agent 这种天然异步、长周期、高价值的交互场景,这个 trade-off 是绝对值得的。
2.2 Harness:从“全能管家”到“纯粹函数调用器”
如果你把 Session 比作“大脑的记忆”,那么 Harness 就是“大脑的思维过程”。但在 Anthropic 的架构里,Harness 被刻意设计得极其“薄”(thin)和“无状态”(stateless)。它的核心职责只有一个:
接收一个
execute(toolName, input)
的请求,把它转发给对应的 Sandbox,并将 Sandbox 返回的
string
结果原样交还给 Session 层。
这意味着 Harness 本身
不持有任何业务逻辑
。它不解析
toolName
的含义,不校验
input
的格式,不缓存任何中间结果,甚至不记录日志(日志由 Session 层统一负责)。它就是一个纯粹的、轻量级的 RPC(远程过程调用)网关。
这种设计的好处是颠覆性的:
-
模型无关性
:Harness 不关心你用的是 Claude 3.5、Gemini 2.0 还是本地部署的 Llama 3。只要你的 agent 逻辑能生成符合
execute(name, input)规范的调用,Harness 就能工作。这为未来混合模型(Hybrid Model)调度埋下了伏笔。 -
极致的可替换性
:今天你用 Anthropic 的 Harness,明天如果发现 AWS AgentCore 的
execute接口更便宜或更快,你只需要改一行配置,把harness_url指向 AgentCore 的 endpoint,整个 agent 的业务逻辑代码一行都不用动。这就是“稳定抽象接口”的威力。 - 安全边界清晰 :Harness 作为唯一与外部世界(Session 层、用户)通信的组件,它的攻击面被压缩到了最小。它不接触敏感凭证,不处理原始文件,不执行任何业务判断,只是一个“管道”。这大大降低了安全审计的复杂度。
我去年重构一个电商客服 agent 时,就深刻体会过“厚 Harness”的痛苦。当时的 Harness 里硬编码了所有工具的调用逻辑、参数转换规则、失败重试策略。当我们要接入一个新的“实时库存查询”API 时,不仅要改工具定义,还要在 Harness 里加几十行胶水代码。而 Anthropic 的方式,相当于把所有胶水代码都剥离出去,变成了一个个独立的、可插拔的“Sandbox 容器”。
2.3 Sandbox:从“共享厨房”到“一次性无菌实验室”
如果说 Session 是记忆,Harness 是思维,那么 Sandbox 就是 agent 的“身体”和“工作台”。在早期的 agent 实现中,Sandbox 往往是一个长期运行的、共享资源的容器(比如一个常驻的 Docker 容器)。所有用户的请求都打到这个容器上,通过多线程或协程并发处理。这带来了严重的安全隐患和资源争抢问题。
Anthropic 的 Sandbox 设计,彻底拥抱了“Cattle, not Pets”(牛,而非宠物)的云原生哲学。每一次
execute(toolName, input)
调用,都会触发一个
全新、短暂、隔离
的 Sandbox 实例的创建、执行和销毁。这个实例的生命周期可能只有几百毫秒到几秒钟。
这个看似“浪费”的设计,解决了三个致命问题:
-
凭证零泄露(Zero-Credential-Leak)
:这是 Anthropic 最值得称道的细节。你的数据库密码、API Key、OAuth Token 等敏感信息,
永远不会以环境变量(env var)或配置文件的形式注入到 Sandbox 容器里
。相反,它们被安全地存储在 Anthropic 的 Vault 中。当 Sandbox 需要调用一个受保护的工具(比如
send_email)时,Harness 会先向 Vault 请求一个 临时的、有严格时效和权限范围的访问令牌(short-lived, scoped token) ,然后把这个令牌,连同input一起,传递给 Sandbox。Sandbox 执行完毕,令牌即刻失效。即使 Sandbox 被攻破,攻击者也拿不到任何长期有效的凭证。 -
强隔离性(Strong Isolation)
:每个 Sandbox 都拥有自己独立的 CPU、内存、网络栈和文件系统。用户 A 的 agent 在调用
pdf_extractor时,绝不可能看到用户 B 的 PDF 文件,也绝不可能耗尽用户 B 的内存配额。这杜绝了“邻居效应”(noisy neighbor)。 -
确定性与可重现性(Determinism & Reproducibility)
:由于 Sandbox 是从一个纯净的、预定义的镜像启动的,它的初始状态是完全确定的。无论你在上午 10 点还是下午 3 点执行同一个
execute("math_calculator", "2+2"),得到的结果都应该是4。这对于测试、调试和合规审计至关重要。你永远不需要问“是不是因为昨天部署了一个新版本的库,所以今天结果变了?”
注意:这种“按需创建、用完即焚”的模式,对底层基础设施提出了极高要求。它要求 Sandbox 的启动时间必须极短(Anthropic 宣称 p95 < 90ms),否则会成为整个链路的瓶颈。这背后是 Firecracker microVM、eBPF 网络加速、以及高度优化的容器镜像分发等一整套技术的支撑。这也是为什么 AWS、Google、Microsoft 这些拥有深厚云基础设施的巨头,能如此快地跟进推出自己的 AgentCore/Vertex/Foundry——他们不是在造轮子,而是在把已有的、经过大规模验证的虚拟化和容器技术,包装成一个新的、面向 agent 的 API。
3. 实操全景:从 YAML 定义到生产上线的完整闭环
光有漂亮的架构还不够,一个真正可用的 managed agent 服务,必须让开发者能“抄作业”。下面,我就以一个真实的、正在我们公司内部灰度的“IT 支持助手”为例,带你走一遍从零开始,到在 Anthropic Managed Agents 上线的完整实操流程。这个例子涵盖了定义、调试、部署、监控和迭代的每一个关键环节,所有命令和配置都是真实可用的。
3.1 第一步:用 YAML 定义你的 Agent(声明式编程)
Anthropic 允许你用两种方式定义 agent:自然语言描述(适合快速原型)或结构化 YAML(适合生产环境)。我们强烈推荐 YAML,因为它提供了精确的控制力和版本可追溯性。以下是我们
it-support-agent.yaml
的核心片段:
# it-support-agent.yaml
name: "IT-Support-Assistant"
description: "Helps employees resolve common IT issues like password reset, VPN setup, and software installation."
# 系统提示词(System Prompt),定义 agent 的角色和边界
system_prompt: |
你是一名专业的 IT 支持工程师,隶属于 Acme Corp。你的任务是帮助员工解决与公司 IT 系统相关的问题。
你只能使用以下工具。如果问题超出工具能力范围,请礼貌告知用户并建议联系 IT Helpdesk 邮箱。
你必须始终使用中文与用户交流。
# 定义 agent 可用的工具(Tools)
tools:
- name: "password_reset"
description: "重置员工的域账户密码。需要提供员工的工号(employee_id)和新密码(new_password)的哈希值。"
input_schema:
type: "object"
properties:
employee_id:
type: "string"
description: "员工的 6 位数字工号,例如 '123456'"
new_password_hash:
type: "string"
description: "新密码的 SHA-256 哈希值(客户端计算,不传明文)"
required: ["employee_id", "new_password_hash"]
- name: "vpn_setup_guide"
description: "为员工生成一份针对其操作系统(Windows/macOS/Linux)的 VPN 客户端安装和配置指南。"
input_schema:
type: "object"
properties:
os:
type: "string"
enum: ["Windows", "macOS", "Linux"]
description: "员工的操作系统"
required: ["os"]
- name: "software_install_request"
description: "为员工提交一个软件安装请求到 IT 服务台。"
input_schema:
type: "object"
properties:
employee_id:
type: "string"
description: "员工的 6 位数字工号"
software_name:
type: "string"
description: "需要安装的软件名称,例如 'Docker Desktop', 'Figma'"
justification:
type: "string"
description: "安装理由"
required: ["employee_id", "software_name", "justification"]
# 定义 Guardrails(护栏),防止越界行为
guardrails:
# 禁止 agent 主动发起任何网络请求(除了调用已定义的 tools)
prevent_unauthorized_network_access: true
# 禁止 agent 输出任何包含 'admin'、'root'、'sudo' 的指令
prevent_privileged_command_output: true
# 如果用户询问敏感信息(如密码、SSN),必须拒绝并引导至安全渠道
sensitive_data_policy: "reject_and_redirect"
# 定义 Sandbox 的基础镜像和资源限制
sandbox:
image: "anthropic/sandbox-python:3.11" # 使用 Anthropic 官方 Python 沙盒
cpu_limit: "1" # 1 个 vCPU
memory_limit: "2Gi" # 2GB 内存
这个 YAML 文件,就是你 agent 的“宪法”。它清晰地定义了:
-
你是谁
(
system_prompt) -
你能做什么
(
tools列表及其严格的输入规范) -
你不能做什么
(
guardrails) -
你在哪里工作
(
sandbox配置)
实操心得:
input_schema的定义是成败关键。我们最初在password_reset工具里只写了"type": "string",结果模型有时会传入"123456"(字符串),有时会传入123456(数字),导致后端解析失败。后来我们强制要求type: "string"并在description里明确写“必须是字符串形式的数字”,问题才彻底解决。 永远不要假设模型会遵守你的隐含约定,一切都要显式、精确地定义。
3.2 第二步:本地沙盒调试(Dev Loop)
在把 agent 丢给 Anthropic 之前,你必须确保它的“大脑”(prompt)和“手脚”(tools)能协同工作。Anthropic 提供了
claude-managed-agents-cli
工具,让你可以在本地模拟整个流程。
-
安装 CLI :
pip install claude-managed-agents-cli -
启动本地 Harness 模拟器 :
# 这会在本地启动一个模拟的 Harness,监听 localhost:8080 claude-managed-agents-cli simulate-harness --config it-support-agent.yaml -
编写一个简单的 Python 脚本,模拟用户输入和工具调用 :
# test_local.py import requests import json # 模拟用户的第一条消息 user_input = "我的 Windows 电脑连不上公司 VPN,能帮我看看吗?" # 向本地 Harness 发送请求 response = requests.post( "http://localhost:8080/awake", json={"session_id": "test-session-001", "user_input": user_input} ) result = response.json() print("Agent's first response:", result["output"]) # 如果 agent 调用了工具,我们需要模拟工具的返回 if "tool_calls" in result: for call in result["tool_calls"]: if call["name"] == "vpn_setup_guide": # 模拟工具执行,返回一个 HTML 指南 tool_result = "<h2>Windows VPN 设置指南</h2><ol><li>下载 Cisco AnyConnect...</li></ol>" # 将工具结果发回 Harness,让它继续推理 requests.post( "http://localhost:8080/checkpoint", json={"session_id": "test-session-001", "tool_result": tool_result} )
这个本地调试环(Dev Loop)让你能在几秒钟内完成一次完整的“用户提问 -> agent 思考 -> agent 调用工具 -> agent 生成回复”的闭环,而无需等待 Anthropic 的 API 响应或支付任何费用。这是快速迭代 prompt 和 tool schema 的黄金时间。
3.3 第三步:部署与上线(Production Ready)
当你在本地调试满意后,就可以一键部署到 Anthropic 的托管环境了。
-
认证 :设置你的 Anthropic API Key。
export ANTHROPIC_API_KEY="your_api_key_here" -
部署 :使用 CLI 将 YAML 文件上传。
claude-managed-agents-cli deploy \ --config it-support-agent.yaml \ --name "it-support-prod" \ --region "us-east-1"命令执行成功后,CLI 会返回一个唯一的
agent_id,例如agent_abc123def456。 -
集成到你的应用 :现在,你的前端或后端服务,只需要调用 Anthropic 的 REST API 即可与这个 agent 交互。这是一个典型的
curl示例:# 创建一个新会话 curl -X POST https://api.anthropic.com/v1/agents/sessions \ -H "x-api-key: $ANTHROPIC_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "agent_id": "agent_abc123def456", "user_input": "我的 Windows 电脑连不上公司 VPN,能帮我看看吗?" }' # 响应会包含一个 session_id 和 agent 的第一轮回复 # { # "session_id": "sess_xyz789", # "output": "当然可以!为了给您提供准确的指导,请问您的操作系统是 Windows、macOS 还是 Linux?" # } # 用户回复后,用 session_id 继续会话 curl -X POST https://api.anthropic.com/v1/agents/sessions/sess_xyz789/messages \ -H "x-api-key: $ANTHROPIC_API_KEY" \ -H "Content-Type: application/json" \ -d '{"user_input": "Windows"}' -
监控与告警 :Anthropic 控制台会为你提供开箱即用的仪表盘,显示:
- 每分钟的会话数(Sessions per Minute)
- 平均首次响应时间(p50/p95 Time-to-First-Token)
- 工具调用成功率(Tool Call Success Rate)
- 沙盒启动失败率(Sandbox Provisioning Failure Rate)
你可以基于这些指标,在 Prometheus 或 Datadog 中设置告警。例如,当
Sandbox Provisioning Failure Rate > 1%时,立即通知 SRE 团队,这通常意味着底层基础设施出现了区域性问题。
注意事项:生产环境的 Pricing 是
$0.08 per session-hour of active runtime。这里的“active runtime”是指 Sandbox 处于running状态的时间,不包括 Harness 等待用户输入的空闲时间。因此,一个会话如果持续了 10 分钟,但其中只有 2 分钟在执行工具(Sandbox 运行),那么你只付2/60 * 0.08 ≈ $0.0027。这个计费模型非常公平,也鼓励你把耗时的计算尽可能放到 Sandbox 里,而不是在 Harness 里做。
4. 竞争格局与生存法则:为什么 Runtime 层注定走向“零价化”
Anthropic 的 Managed Agents 发布稿写得像一篇开创纪元的宣言,但现实的商业地图却要残酷得多。就在 Anthropic 发布的五个月前, AWS Bedrock AgentCore 已经进入通用可用(GA)阶段。而 Google Vertex AI Agent Builder 和 Microsoft Azure AI Foundry 也早已在各自的云市场中悄然铺开。这不是一场“谁先发明了 runtime”的竞赛,而是一场关于“谁能把 runtime 变成水电煤”的军备竞赛。理解这场竞赛的底层逻辑,是所有从业者制定技术选型和职业规划的前提。
4.1 三巨头的“免费-邻接”战略(Free-Adjacent Strategy)
AWS、Google、Microsoft 的核心优势,从来都不是“做出最好的 runtime”,而是“让 runtime 成为你已经在用的云服务的一部分”。他们的策略可以概括为“免费-邻接”:
-
AWS AgentCore :它不是一个独立的、需要单独购买的服务。它是 Bedrock 服务的一个内置功能。只要你开通了 Bedrock,AgentCore 就自动可用。它的计费模型是: 你只为实际消耗的 tokens(输入+输出)付费,AgentCore 的 runtime 本身不额外收费 。这意味着,一个使用 Claude 3.5 的 agent,其
execute()调用的 sandbox 开销,已经完全被input_tokens和output_tokens的费用所覆盖。对于客户来说,这等于“runtime 是免费的”。 -
Google Vertex AI Agent Builder :它深度集成在 Vertex AI 的定价体系中。你为
model_inference付费,为vector_search付费,为function_calling付费,但agent_runtime这个概念在账单上根本不存在。它被巧妙地“摊销”到了其他更显性的服务项里。 -
Microsoft Azure AI Foundry :它甚至更进一步,将 AutoGen 和 Semantic Kernel 这两个开源框架直接打包进了 Foundry。开发者可以用自己熟悉的开源 SDK 来开发 agent,然后一键部署到 Foundry 上运行。微软的利润,来自于你为 Azure VM、Azure Blob Storage、Azure Monitor 等配套服务所支付的费用,而不是那个名为 “Foundry Runtime” 的东西。
这种策略的威力是毁灭性的。它让 Anthropic 的
$0.08/session-hour
定价,在巨头面前显得无比脆弱。想象一下,一个 CTO 面对两个选择:
- 选项 A(Anthropic) :为模型 tokens 付费 + 为 runtime 付费($0.08/hr)。
- 选项 B(AWS) :为模型 tokens 付费(价格可能略高 5%-10%)+ runtime 免费。
绝大多数 CTO 会毫不犹豫地选择 B。因为“免费”的心理锚点太强大了,而且它消除了一个独立的、需要单独审批和预算的采购项。这正是 VMware 在 2000 年代末期所面临的困境:当 KVM 和 Xen 这些开源 hypervisor 成熟后,企业不再愿意为“虚拟化”这个功能单独付费,他们只愿意为“运行在虚拟机上的应用”付费。
4.2 开源生态的“压力曲线”正在加速形成
如果说巨头的“免费-邻接”是来自上方的挤压,那么开源社区的崛起,则是从下方发动的“降维打击”。2025 年初,一个名为 Daytona 的项目宣布将其核心从“开发者桌面环境”转向“AI agent 基础设施”。它在 2026 年 2 月完成了 2400 万美元的 A 轮融资,并公开宣称其 sandbox 的启动时间(p95)低于 90 毫秒——这个数字已经与 Anthropic 的官方数据持平。
与此同时,Kubernetes 社区成立了官方的
SIG-Agent
,并发布了
k8s-agent-sandbox
项目,旨在为 Kubernetes 集群提供原生的、符合 OCI 标准的 agent sandbox 运行时。这意味着,一个精通 Kubernetes 的 DevOps 工程师,现在可以用
kubectl apply -f agent-sandbox.yaml
的方式,几分钟内在自己的私有云里部署一套与 Anthropic 架构理念完全一致的 runtime。
更令人震撼的是 ByteDance 的 deer-flow 项目。它不仅仅是一个 sandbox,而是一个集成了规划(planning)、子 agent(subagents)、长期记忆(long-term memory)的完整 agent harness 框架。它在 GitHub 上已经获得了超过 59,000 个 star,其设计理念是“让 agent 的开发像写 Bash 脚本一样简单”。它的存在,让 Anthropic 的“Harness as stateless executor”这个抽象,看起来更像是一个已经被开源社区实现并优化了的“标准答案”。
这张竞争地图清晰地勾勒出一个趋势: Runtime 层正在经历一场与 2000 年代虚拟化技术完全相同的 commoditization(商品化)过程 。它的价值正在从“提供一个能用的 runtime”下沉为“提供一个足够快、足够安全、足够便宜的 runtime”,而后者,恰恰是云厂商和开源社区最擅长的领域。
4.3 生存法则:向上迁移,寻找“不会被压垮”的新楼层
当一个技术栈的某一层被压平(flattened)时,价值并不会消失,它只会向上或向下迁移。对于所有身处 agent infra 领域的创业者、工程师和产品经理,认清这一点至关重要。以下是三条已经被市场验证的、可行的“向上迁移”路径:
路径一:Trace Store —— 成为 agent 行为的“国家档案馆”
当 runtime 变得无处不在且廉价时,最大的痛点就从“怎么跑起来”变成了“怎么知道它到底干了什么”。一个企业级的 agent 系统,每天会产生海量的、结构化的交互日志(trace)。这些日志是:
- 调试的唯一依据 :当 agent 出现幻觉,你需要回溯它调用了哪些工具、工具返回了什么、模型是如何基于这些信息推理的。
- 合规的法律证据 :在金融、医疗等行业,agent 的每一次决策都可能涉及法律责任。你需要一个不可篡改、可审计、可导出的“行为记录”。
-
优化的数据金矿
:分析成千上万次
password_reset调用,你会发现 70% 的失败都源于用户输错了工号格式,从而驱动你优化前端表单的校验逻辑。
目前,这个领域已经形成了三足鼎立的格局:
- Braintrust :背靠 $36M 的 A 轮融资,其 Brainstore 数据库专为 AI logs 优化,支持超低延迟的 OLAP 查询。
- Arize :凭借 $131M 的总融资额,它将开源的 Phoenix 项目(Apache 2.0 许可)作为“钩子”,吸引开发者,再用其商业版的高级分析功能变现。
- LangSmith :作为 LangChain 生态的“亲儿子”,它拥有最庞大的默认用户基数,其优势在于无缝集成。
实操心得:我在为一家银行搭建风控 agent 时,曾面临一个艰难的选择:是自建一个基于 Elasticsearch 的 trace store,还是采用 LangSmith?最终我们选择了 LangSmith,原因很简单:它的
langsmith-clientSDK 只需一行代码就能接入,而自建方案预估需要 3 个工程师、2 个月才能达到同等的查询性能和稳定性。 在 runtime 层 commoditize 的时代,“开箱即用的集成体验”本身就是一种强大的护城河。
路径二:Governance & Policy —— 成为 agent 的“交通警察”
当 agent 可以自由地调用 API、读取数据库、发送邮件时,“能做什么”和“被谁允许做什么”就成了生死攸关的问题。这催生了一个全新的、空白的市场: Agent Governance 。
AWS AgentCore 在 2026 年 3 月将 Policy Controls 推向 GA,这标志着企业级采购流程已经开始介入。采购部门会问:
-
这个 agent 被允许调用哪些外部 API?(例如,禁止调用任何未在白名单中的
*.paypal.com域名) -
它能访问哪些内部数据源?(例如,只能读取
hr_db.employees表,不能读取hr_db.salaries表) - 它的输出需要经过哪些人工审核?(例如,所有涉及“解雇”、“降薪”的措辞,必须由 HR 经理二次确认)
目前,这个领域的工具还非常原始,大多停留在 YAML 文件定义规则的阶段。一个成熟的 Agent Governance 平台,应该能提供:
-
可视化策略编辑器
:拖拽式界面,定义“如果 agent 调用
send_email工具,且收件人域名是gmail.com,则阻止”。 -
实时策略引擎
:在 agent 的
execute()调用发出前,对其进行毫秒级的策略检查。 - 自动化合规报告 :一键生成符合 SOC2、HIPAA 等标准的审计报告。
这是一个典型的“防御性刚需”市场。它不追求炫酷的 AI 能力,只追求极致的可靠、可审计和可管理。对于有安全合规背景的工程师来说,这是下一个十年最稳健的职业跳板。
路径三:Vertical Agent Marketplaces —— 成为行业的“App Store”
Salesforce 的 Agentforce 在 2026 年 Q4 达到了 8 亿美元的 ARR(年度经常性收入),同比增长 169%。这个数字说明了一个真理: 企业愿意为“能解决具体业务问题的 agent”付费,而不是为“能运行 agent 的 runtime”付费。 当 runtime 变得像空气一样无处不在时,真正的价值就沉淀在那些垂直、深入、能直接带来 ROI 的 agent 应用上。
我们已经看到了早期的苗头:
-
Finance(金融)
:
virattt/ai-hedge-fund项目,一个开源的、用于量化交易信号生成的 agent;TradingAgents,专注于高频做市和套利。 -
Security(安全)
:
vxcontrol/pentagi,一个能自动进行渗透测试、漏洞利用和报告生成的 offensive security agent。 - Healthcare(医疗) :多个初创公司正在构建能解读医学影像报告、辅助医生撰写病历、甚至为患者生成个性化用药提醒的 agent。
这些 vertical agent 的共同特点是:它们的业务逻辑极其复杂,需要深厚的行业知识(domain knowledge),并且与企业的核心业务系统(如 SAP、Epic、ServiceNow)深度集成。这使得它们很难被一个通用的、由大模型驱动的“万能 agent”所替代。
我的个人体会是:过去一年,我面试了超过 50 位声称“精通 AI agent 开发”的候选人。其中,90% 的人能熟练地用 LangChain 搭建一个聊天机器人,但只有不到 5 个人能清晰地阐述“如何在一个银行的信贷审批流程中,用 agent 替代人工审核员,并确保每一步都符合《巴塞尔协议》的要求”。 未来的高价值岗位,属于那些既懂 AI 工程,又懂某个垂直行业业务逻辑的“T 型人才”。 Runtime 层的 commoditize,不是 AI 工程师的末日,而是它向更高、更深、更专业的领域进化的开始。
5. 常见问题与实战排障:从“沙盒启动失败”到“会话状态丢失”
再完美的架构,在真实世界的生产环境中也会遇到各种意想不到的“坑”。以下是我在过去一年中,带领团队上线 12 个不同业务线的 agent 时,总结出的最常见、最高频、也最容易被忽视的 5 个问题,以及我们摸索出的、经过实战检验的解决方案。
5.1 问题一:Sandbox 启动失败(Provisioning Failure)
现象
:你在 Anthropic 控制台看到大量
Sandbox Provisioning Failure
的
436




被折叠的 条评论
为什么被折叠?



