告别JSON!Anthropic发布Tool Calling 2.0,Agent上下文消耗骤降80%

Anthropic协议归零:告别AI中间件,直连模型新范式 AI中间件曾是大模型落地的必备胶水层,承担路由、计费、流控、安全等职责,但其协议冗余、上下文管理低效、计费不精准等问题长期制约推理效率与成本可控性。随着Claude 3.5 Sonnet原生流式协议增强与客户端侧上下文感知调度能力成熟,关键能力如usage token实时计费嵌入、image_url语义化混排、cache_control声明式生命周期管理,已从独立服务下沉至协议与SDK内核。这标志着AI基础设施正从‘服务编排’转向‘协议契约’,开发者无需部署微服务即可实现高精度计费、低延迟流式响应与合规上下 阅读详情


2The Hook (引言)

如果你在过去两年里深度参与过AI Agent的开发,你一定经历过被 Context Window(上下文窗口) 和 Latency(延迟) 支配的恐惧。

传统的工具调用(Tool Calling)机制从诞生至今几乎没有变过:给大模型一套Schema,让它输出特定的JSON来调用API,然后把结果塞回上下文,再进行下一轮思考 。当遇到需要串联多个工具的复杂任务时,这种基于JSON的“乒乓球式”交互会产生灾难性的Token浪费,并导致极高的延迟 。

正如业内的一句精辟吐槽:

“让大模型通过输出JSON来调用工具,简直就像是让莎士比亚去上了几个月的普通话培训班,然后硬逼着用中文写一部话剧。”

大模型天生就更擅长写代码,而不是去抠JSON的括号 。为了解决这个业界毒瘤,Anthropic悄然发布了一套堪称 Tool Calling 2.0 的重量级更新 。今天,我们将从工程实操的角度,硬核拆解这四大特性如何重塑长周期Agent的开发流。


Core Content (正文 - 干货部分)

Step 1: Programmatic Tool Calling (程序化工具调用) —— 告别JSON,拥抱代码

这是本次更新中最具颠覆性的一环。它的核心思想不再是让LLM作为粘合剂,一次次地输出JSON来调度任务 。相反,Anthropic给模型提供了一个可以直接访问所有MCP(Model Context Protocol)工具的 沙箱环境 (Sandbox) 。

模型现在会直接输出一段

Agent Runtime 已成基础设施:从会话持久化到沙箱即消耗品 Agent runtime 是支撑大模型自动化流程稳定运行的底层执行环境,其核心在于解耦模型推理与状态管理、实现工具调用的安全隔离、保障长时任务的可追溯性。随着 Anthropic Managed Agents 和 AWS Bedrock AgentCore 等方案落地,runtime 层正快速标准化——不再比拼‘是否能跑’,而聚焦于 session 事件日志的可靠性、sandbox 的按需销毁能力与凭证托管安全性。这类技术已从实验原型进入金融、销售、合规等强审计场景,成为 LLM 应用规模化落地的关键基座 阅读详情

相关推荐

Anthropic Managed Agents:Agent Runtime 层的操作系统时刻

Agent runtime 是大模型应用落地的核心基础设施,其本质是解决会话状态管理、工具执行隔离与安全可控执行三大问题。它基于事件日志(event log)实现持久化、可追溯的 session 管理,依托 harness 接口提供无状态、标准化的工具调用契约,并通过 sandbox(如 Firecracker + WASI)达成强隔离与 credential 零残留。这一层的技术价值不在于性能参数,而在于降低工程熵增、保障生产稳定性与满足合规审计要求。典型应用场景包括金融智能客服、政务知识库多跳检索、医疗

405

Anthropic新Layer:LLM应用中Prompt与解析层的架构级归零

在大语言模型应用开发中,Prompt Engineering 和输出解析(Output Parsing)长期作为连接用户意图与模型能力的关键抽象层,承担指令编排、格式约束、容错兜底等职责。其技术原理源于对模型原生语义理解能力不足的工程补偿,但正因高度依赖人工规则和后处理逻辑,导致端到端延迟高、维护成本重、稳定性差。随着模型对文档类型、业务语义、结构化输出的联合建模能力跃迁,这一层正从‘必需胶水’转变为‘可卸载兼容层’。典型价值体现在财报解析、法律咨询、智能体工具调用等场景中——开发者可直接传入PDF二进制、

weixin_33682790的博客 355

Agent Runtime 重构:从上下文存储到事件日志的范式迁移

Agent runtime 是支撑大模型智能体稳定运行的底层基础设施,其核心在于状态管理、安全执行与可审计性。传统方案将状态耦合于模型 context window,导致幻觉加剧、调试困难、安全失控;而新一代 runtime 如 Anthropic Managed Agents 提出‘会话即事件日志’(session as durable event log)原理,通过物理剥离状态、沙箱凭证隔离、函数化工具调用,实现工程确定性与生产级可靠性。该范式显著提升延迟控制、审计溯源与合规治理能力,广泛应用于客服自动

cuibinmo3519的博客 402

Agent Runtime 已成基础设施:告别自建,聚焦 Trace、Policy 与垂直智能

Agent runtime 不再是需要自研的技术组件,而是像云存储或消息队列一样的基础能力——它解决的是模型执行的稳定性、隔离性与状态持久化问题。其核心原理在于将执行(Harness)、状态(Session-as-Event-Log)和安全凭证(Vault 隔离)彻底解耦,从而规避上下文截断、密钥泄露与不可审计等生产级风险。这一架构演进带来显著技术价值:可重放的调试链路、密码学存证级可观测性、以及策略即代码的治理能力。典型应用场景覆盖金融合规审查、跨境物流异常处理、医疗理赔自动化等强可靠性需求领域。当 AW

记录技术点点之路 386

大模型原生工具调用:告别胶水代码,实现架构层归零

大模型原生工具调用(Native Tool Use)是一种将函数调用、RAG检索、状态管理等能力深度内化到模型推理过程中的新型交互范式。其核心原理是让模型在token生成过程中自主解析用户意图、动态协商协议并实时构建执行计划,而非依赖外部工程层显式编排。这种技术显著降低系统复杂度与端到端延迟,提升错误自恢复能力与跨轮次上下文一致性。典型应用场景包括智能客服助手、多步骤业务Agent、实时数据查询系统等需高内聚低耦合的LLM应用。本文聚焦Anthropic推出的原生工具调用机制,深入解析其自然语言契约、流式混

agcozdwdfvds08078的博客 402

Claude托管Agent:解耦Session、Harness与Sandbox的生产级Runtime架构

Agent runtime 是支撑AI智能体落地的核心基础设施,其本质是状态管理、执行调度与安全隔离的技术综合体。传统方案将状态强耦合于模型上下文,导致可追溯性缺失、故障不可恢复、凭证易泄露等工程顽疾。Claude Managed Agents 提出 session-as-event-log、harness-as-executor、sandbox-as-cattle 三层物理解耦范式,将状态持久化为可审计事件流,执行器设计为无状态函数,沙盒实现资源与凭证的硬隔离。该架构显著提升可观测性、伸缩性与安全性,适用

dielucui7698的博客 468

Anthropic Managed Agents 架构解析:Session-Harness-Sandbox 三层解耦设计

Agent runtime 是支撑大模型智能体稳定运行的底层基础设施,其核心在于会话状态管理、执行逻辑调度与安全沙箱隔离三大能力。随着 AWS AgentCore、Google Vertex AI Agent Builder 和 Azure AI Foundry 等云原生方案成熟,runtime 正快速走向标准化与水电化。在此背景下,Anthropic Managed Agents 提出 session-as-event-log、无状态 harness 与按需沙箱的三层解耦架构,本质是将 agent 的可靠

weixin_34163553的博客 335

Agent Runtime 正在归零:会话即事件日志的工程革命

Agent runtime 不再是自研状态机或上下文拼凑的临时方案,而是以持久化事件日志为事实源、无状态执行器为枢纽、硬件级沙箱为边界的新型基础设施。其核心原理在于解耦模型推理与状态管理,将 context window 从‘临时数据库’还原为‘瞬时决策上下文’,从而解决长程记忆衰减、PII 泄露、调试不可追溯等生产顽疾。这一范式带来确定性可观测性、跨时区会话一致性与合规审计就绪性,广泛应用于金融客服、保险理赔、医疗工单等强流程、高合规场景。Anthropic Managed Agents 的发布,标志着

weixin_33713707的博客 432

Agent Runtime 重构:Session 作为事件日志的工程范式

在 AI Agent 工程化落地过程中,‘状态管理’是核心瓶颈——传统依赖大模型上下文窗口存储会话状态的方式极易导致静默丢失、不可回溯与调试困难。其本质是将有状态计算强耦合于无状态推理,违背分布式系统设计原则。基于事件日志(Event Log)的 Session 抽象,通过解耦状态存储、执行逻辑与安全沙箱,实现了确定性快照、幂等写入与故障隔离,显著提升生产可靠性。该模式已成 Anthropic Managed Agents、AWS Bedrock AgentCore 等主流 Runtime 的底层共识,并正

weixin_34380948的博客 465

Claude顾问策略:Opus做大脑、Sonnet搬砖的Agent成本优化架构

AI Agent架构正从‘单一大模型编排’转向‘分层智能协同’——这是一种将决策与执行解耦的新型工程范式。其核心原理在于按需调度不同能力层级的大模型:由轻量级模型(如Sonnet)承担高频、确定性任务,仅在关键认知瓶颈处触发高成本模型(如Opus)进行精准决策。这种‘决策点粒度优化’显著降低Token消耗,技术价值体现在可审计、可治理、ROI可量化;典型应用场景包括客服工单处理、CI/CD状态监控、PDF财报结构化提取等。本文深入解析Anthropic推出的‘顾问策略’(Advisor Strategy)如

weixin_34128839的博客 422

高速光耦在隔离串口通信中的选型与优化策略

本文深入探讨了高速光耦在隔离串口通信中的关键作用与选型优化策略。针对串口通信中因普通光耦响应慢导致的误码问题,文章详细分析了响应时间、电流传输比、供电电压与隔离耐压等核心选型指标,并对比了6N137、HCPL-0601等主流型号。同时,提供了电路设计、PCB布局的优化技巧及实用的调试指南,旨在帮助工程师实现高速、稳定的隔离串口通信。

grpc6streamer的博客 318

DCM4CHEE Archive Light 应用配置-存储配置

本文介绍了在DICOM归档系统中配置和管理存储的方法,包括通过用户界面和LDAP导入两种方式。主要内容包括: 存储配置概述:用户可根据需求配置单个或多个存储设备,支持在磁盘空间不足或多任务并行时使用。存储分为Archive设备级(序列元数据存储)和Application Entity级(对象存储/元数据存储)。 用户界面操作: 设备级存储配置:通过菜单导航添加/编辑存储描述符,设置Storage ID、URI等关键参数 应用级存储引用:在设备扩展和网络AE中分别配置元数据和对象存储引用 LDAP配置方法:

洪城叮当的博客 1413

我爬取了某非法网贷后台系统数据,终于知道什么叫做利滚利滚利滚利了

我爬取了非法贷款的后台网站!

weixin_44042821的博客 2873

给STM32F4装上耳朵:用麦克风模块和Keil MDK实现你的第一个语音指令(附完整代码)

本文详细介绍了如何使用STM32F4开发板和麦克风模块实现简单的语音指令识别系统。通过Keil MDK开发环境配置、ADC音频采样、语音活动检测和模板匹配算法,开发者可以快速构建响应'开灯'、'关灯'等基础指令的语音交互方案。文章包含完整代码实现和调试技巧,特别适合STM32初学者入门语音识别领域。

weixin_29171087的博客 427

高通平台N4单路输入的720P相机预览

N4的一路720P Camera作为MIPI摄像头使用

llw21680的专栏 156

数据结构课程设计--基于知识图谱的中医食疗数据管理与应用

【代码】数据结构课程设计--基于知识图谱的中医食疗数据管理与应用。

M_inherit的博客 555

ABAP 里解构引用操作符 ->* 的使用方法详解

解除引用操作符->*可用于将“类型为REF TO …的引用变量”的值(即该引用所指向内存)取出,从而访问其实际值或内部组件。具体地,若dref是一个“引用变量”,则表达式dref->*代表对该引用进行“解除引用”,使得程序按静态类型将其视为实际类型的值对象。例如,若lr类型声明为,则lr->*表示“将 lr 引用的INT4对象看作INT4类型并访问其值”。注:若 “数据引用变量” 的静态类型是通用类型DATA,则只能在这种上下文中使用->*。

2007 年 ~ 2025 年,深耕 SAP 技术 18 年 470

mapbox进阶,dem数据转为等高面,加载转换后的等高面到地图

本文详细介绍如何基于mapbox-gl v3.*.* 版本,使用dem数据转为等高面,加载转换后的等高面到地图,亲测可用。希望能帮助到您。一起学习,加油!加油!

我哎GIS博客 399

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

怀旧版电脑GBC模拟器

再现原版GBC掌机的界面,电脑运行连游戏界面都一样大小,很怀旧,很真实,(英文版)强烈推荐,很小的文件,很难才找到的。

计算机控制技术及应用

《计算机控制技术及应用》通过总结作者的科研成果和吸收国内外的先进理论、方法和技术,以计算机控制系统的网络化、开放化、智能化和集成化发展趋势为主线索,主要介绍计算机控制系统的基本概念和计算机控制系统的典型形式,计算机控制系统的数学描述与基本分析方法,以及数字PID控制器、最少拍控制系统、达林算法、状态变量设计法等设计方法及其各种改进算法。重点突出计算机控制系统输入输出通道接口的设计方法和典型控制系统的设计案例与实现方法等。

上一篇: 重磅深度:OpenAI Codex负责人揭秘,为什么我们熟知的“编程”已经结束?
下一篇: 删掉你的 Agent.md!一份让 AI 变笨的“避坑指南”
老孙 | Ethan Sun
博客等级 码龄3年 257粉丝 475原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

老孙 | Ethan Sun

您的鼓励是我最大的动力!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值