每条路线都跑出惊艳 Demo,为什么具身智能依旧难以落地?

试遍所有 AI 路线后,人形机器人到底被什么卡住了?

——2026年具身智能的「里子」

目录

01    模块化机器人:最可靠的路线,也最难把世界全部写进规则

卡点:世界越开放,规则越难写,搜索空间也越容易失控

发展趋势:不是抛弃模块,而是让学习替代最难手写的部分

02    大模型+技能:机器人越来越会“想”,但想到不等于做到

卡点:计划越来越聪明,但能力上限仍被底层技能与物理 Grounding 卡住

发展趋势:高层 Agent 不再亲自控制身体,而是编排越来越强的低层模型

03    模仿学习:机器人最容易学会“像人一样做”,也最容易被没见过的情况难住

卡点:一旦离开示范分布,或者反应速度不够,优势就会迅速缩水

发展趋势:从独立 Policy 变成 VLA 的动作生成底座

04    强化学习:已经把机器人“练”得很强,但现实世界依然不是一个好训练场

卡点:真机试错太贵,而仿真永远不完全等于现实

发展趋势:从“从零练会”转向基础模型的后训练

05    VLA:从机器人版“大模型”,进入数据、记忆和“最后一毫米”的硬仗

卡点:数据、实时性、记忆,以及物理世界“最后一毫米”

发展趋势:VLA 正在从“单体大模型”变成带记忆、触觉、RL 和高速执行层的复合系统

06    世界模型:机器人终于开始“想象未来”,但想象必须值得相信

卡点:看起来合理,不等于物理上正确

发展趋势:从“生成未来”变成机器人决策的基础设施

07    比“端到端还是模块化”更有意思的答案


最近一段时间,机器人领域几乎把 AI 技术路线试了一遍,也都被“喷得很惨”:

“

有人坚持经典的感知、规划与控制;
有人把大语言模型放到机器人头顶,让它负责思考;
有人靠模仿学习复现人类动作;
有人在仿真里用强化学习把机器人“练”到会跑会跳;
VLA 希望复制大模型的 Scaling 路径;
世界模型则进一步试图让机器人在行动之前先预测未来。

每一次技术更迭,都解决了上一代系统的一部分问题。

但进入真实物理世界以后,新问题又会冒出来,然后“卡住”。

这六条路线严格来说不在同一个分类维度上:模块化是工程框架,模仿学习与强化学习是学习范式,LLM+技能、VLA、世界模型是模型家族。

今天我们把它们摆在一起,是因为当前行业内确实把它们当成了六种流派。

时至今日,每一条路线都跑出了亮眼 Demo,都已验证自身的有效性,却始终没能击穿行业的落地壁垒,也无法消解外界对「具身智能泡沫」的核心质疑。

很多人开始提出,具身智能的破局,未必来自某条路线的单点突破,而来自 “缝合” 的质量。

缝合这条路本身也有代价,而且代价不小;也不能排除另一种可能,某一天某个团队靠““单一模型封神”,跑到终点。

所以,这篇文章想讲的是不是哪一条路线会赢。而是:

今天我们手上的六条路线分别走到了哪里,又遇到了哪些卡点。

先整体看这六条路线。

▲需要说明的是它们并不处在同一个分类维度上:模块化是工程框架,模仿学习与强化学习是学习范式,LLM+技能 / VLA / 世界模型则是模型家族。它们之所以被并置,是因为行业叙事与工程实践确实把它们当成了六种主流流派,而它们的未来,恰恰取决于彼此如何缝合。

接下来我们将分别从发展现状、卡点、未来发展趋势三个方面,依次来看这六大技术路线。

01    模块化机器人:最可靠的路线,也最难把世界全部写进规则

现代机器人最熟悉的技术栈,大致可以写成:

感知 → 定位与建图 → 任务规划 → 运动规划 → 控制。

一台机器人要拿起杯子,系统可以先识别杯子、估计位姿,再计算抓取点、规划机械臂轨迹,最后由控制器执行。

每个模块负责一个相对明确的问题。

它的最大优势至今没有消失:机器人为什么这么动,工程师大体能说清楚。

碰撞约束可以明确写入规划器,机器人的质量、关节极限和动力学可以进入模型预测控制。

对于人形机器人,model-based planning 和 control 过去三十年一直是核心技术底座。

即使在最新综述中,研究者仍然强调这类方法,只是它一直存在一个老问题:模型越精确,计算往往越昂贵。

卡点:世界越开放,规则越难写,搜索空间也越容易失控

真正麻烦的是,当机器人从工厂走进开放环境,世界需要被描述的东西越来越多。

机器人不仅要考虑“手能不能伸到杯子”,还可能要推开椅子、绕过人、先打开柜门,再决定哪只手拿东西。

Task and Motion Planning(TAMP)正是试图同时解决这些高层离散任务与低层连续运动问题,但任务越复杂,搜索空间就越容易出现组合爆炸

▲图2|即便在高度学习化的人形机器人系统里,运动控制、轨迹生成、动态约束和环境感知仍然是绕不开的底层问题。

所以经典模块化路线有一个颇有意味的边界:

它最擅长解决人类能够准确建模的问题,而真实世界越来越多的问题,恰恰很难被完整建模。

发展趋势:不是抛弃模块,而是让学习替代最难手写的部分

现在很多系统并没有抛弃 planner、SLAM 或控制器,而是开始用神经网络学习过去最难手工设计的部分,例如可行性判断、搜索启发、物体 affordance 和动态预测。

传统机器人没有消失,它只是开始长出“可学习的器官”。

02    大模型+技能:机器人越来越会“想”,但想到不等于做到

2022 年的 SayCan 是一个非常经典的例子。

用户可以告诉机器人:“我把饮料洒了,帮我收拾一下。”

语言模型负责理解这个要求,然后从一组已有技能中选择诸如“找到海绵”、“拿起海绵”、“走到桌边”等动作。真实机器人技能对应的 value function,则负责告诉语言模型:这件事情眼下到底做不做得到。

这套方法巧妙地绕开了一个难题:不让语言模型直接控制电机。

▲图3|SayCan 的思路不是让 LLM 直接控制机器人,而是让语言模型从真实机器人已经掌握的技能中进行组合。

但 SayCan 的作者自己也指出,系统最主要的瓶颈恰恰来自底层 skills 的范围和可靠性。如果机器人从来没学过某项能力,再聪明的 LLM 也调用不出来;如果一个技能执行失败,系统也不容易立刻理解失败原因并恢复。

后来 VoxPoser 等工作试图进一步放宽技能库的边界。它不是简单挑一个预设技能,而是让 LLM/VLM 把语言中的空间约束转化成 3D value map,再交给 motion planner 生成轨迹。

到了 2026 年,这个思路又以一种更成熟的形式回来了。

Google DeepMind 最新的 Gemini Robotics ER 2 被直接定义成机器人的“high-level brain”。它负责理解场景、拆分多步任务,甚至协调多台机器人,但真正的 motor execution 仍然可以交给下面的 VLA。更有意思的是,高层模型可以在机器人执行当前动作的同时继续思考下一步。

五年前是:

LLM → Skill Library

现在正在变成:

Embodied Reasoning Model → VLA / Planner / Tools / Other Robots

手越来越丰富了,但“大脑”依然不必亲自控制每个关节。

卡点:计划越来越聪明,但能力上限仍被底层技能与物理 Grounding 卡住

这一派真正的瓶颈并没有因为模型变大而消失。

SayCan 已经暴露了这个问题:如果底层没有相应技能,再聪明的语言模型也无从调用;如果技能执行失败,高层模型还必须判断“哪里失败了、下一步该如何恢复”。

到了 Gemini Robotics ER 2 这样的系统,高层能够调用的对象已经从固定技能扩展到 VLA、规划器、工具甚至其他机器人,但“高层计划是否真的能被可靠执行”仍然是关键边界。

大模型可以越来越清楚地知道“下一步应该干什么”,但从正确计划到可靠物理执行,中间仍隔着完整的机器人世界。

发展趋势:高层 Agent 不再亲自控制身体,而是编排越来越强的低层模型

这一方向现在呈现出的趋势,不是让 reasoning model 一路控制到电机,而是让它承担更长时程的任务理解、监控和协调,把具体执行交给 VLA、运动规划器和专用技能。

换句话说,机器人“大脑”正在变得更像一个会持续观察和调度的管理层。

03    模仿学习:机器人最容易学会“像人一样做”,也最容易被没见过的情况难住

如果只看近年来各种精巧的机械臂 Demo,一个容易被忽略的事实是:

很多非常好用的机器人 policy,并不需要一个巨大的语言模型。

2023 年的 ACT(Action Chunking with Transformers)就是代表。

传统行为克隆每个时刻预测一个动作,很容易出现误差累积:第一步偏一点,下一步看到的状态就变了,模型逐渐进入训练数据没有覆盖的区域。

ACT 的解决办法很直接:一次预测一段动作。

原始 ALOHA 工作只使用大约 10 分钟的示范数据,就能学习打开透明调料盒、插入电池等高精度双臂操作。在其真实任务中,ACT 直接以 50 Hz 预测关节位置。

▲图4|ALOHA 与 ACT 展示了模仿学习非常诱人的一面:少量高质量人类示范,就能得到相当精细的机器人操作。

Diffusion Policy 则进一步处理了另一个机器人特有的问题。

把一个杯子放到桌子另一边,可以从左绕,也可以从右绕。人类示范本来就是多模态的,如果传统回归模型把两种动作“取平均”,反而可能生成一条谁也不会走的轨迹。

Diffusion Policy 用扩散过程建模复杂的动作分布,因此在高维、多解机器人动作中表现出了很强的适应性。

卡点:一旦离开示范分布,或者反应速度不够,优势就会迅速缩水

这一派始终有两堵墙。

  • 第一堵墙叫分布偏移。

Diffusion Policy 的作者也明确写道,它依然继承 behavior cloning 的基本限制,当演示不足时性能会下降。

换句话说,机器人非常擅长模仿老师走过的路,但自己走错一步以后,未必知道怎么回来。

  • 第二堵墙叫实时性。

扩散模型需要多轮去噪。原始 Diffusion Policy 为真实机器人专门减少 inference iterations,在 RTX 3080 上做到约 0.1 秒推理延迟。此后 One-Step Diffusion Policy 等工作继续把多轮生成压缩成一次。

这背后还有一个很有意思的矛盾。

Action chunk 越长,动作通常越平滑、模型调用越少;但机器人在一段 chunk 执行期间,对刚刚发生的环境变化也越迟钝。

Physical Intelligence 后来专门提出 Real-Time Chunking,也是因为大模型在生成下一段动作时,机器人不能总停下来等。

新旧 chunk 切换不好,还可能产生不连续甚至危险动作。

发展趋势:从独立 Policy 变成 VLA 的动作生成底座

所以 ACT、Diffusion Policy 并没有被 VLA 淘汰。恰恰相反,它们正在逐渐被吸收进 VLA,成为新的 action decoder。

这条路线从“完整方案”变成了基础设施。

04    强化学习:已经把机器人“练”得很强,但现实世界依然不是一个好训练场

如果要问强化学习目前在机器人上最成功的地方,答案并不难找:

走路、跑步、跳跃、动态平衡,以及越来越复杂的全身控制。

原因也很好理解。

这些问题虽然难,但奖励往往比较明确:别摔倒、往前走、跟踪目标姿态、减少能耗。而且大量训练可以搬到仿真中并行完成。

卡点:真机试错太贵,而仿真永远不完全等于现实

问题是,机器人 RL 最理想的训练方式,与真实世界天然冲突。

游戏里的 Agent 可以在一秒钟内死几百次;真实机器人摔一次,工程师可能得过去扶起来。抓取失败了,要重新摆物体;执行器过热,要等;动作太激进,甚至可能损坏硬件。

一篇聚焦真实机器人成功案例的 Annual Review 综述,把机器人 RL 的根本困难概括得很直接:

与物理世界交互复杂,而且昂贵。

稳定、样本高效的真实世界 RL 到今天仍然是重要研究方向。

▲图5 | 强化学习 Sim2Real 常用的域随机化技术:在仿真中主动改变动力学参数、传感噪声等条件,让策略适应更广泛的物理变化,从而提高迁移到真实机器人的鲁棒性。

于是 Sim2Real 成了 RL 的生命线。

机器人先在仿真里进行成千上万次甚至更多并行试错,再把 policy 部署到真机。

但新的问题随即出现:模拟器无法完全复制真实电机、摩擦、柔性、传感器噪声和时延。

针对人形机器人 locomotion,研究者至今仍在系统比较 dynamics randomization、delay/noise modeling 等方法如何缩小 reality gap。

发展趋势:从“从零练会”转向基础模型的后训练

不过 RL 最近正在出现一个很重要的分叉:

不再从零负责“教会机器人一切”,而是成为基础模型的强化训练。

Physical Intelligence 公布的 RL Token 就很典型。通用 VLA 已经知道怎样拿起螺丝刀、接近接口,但最后几毫米的精确对齐依然困难。其方案冻结大 VLA,让轻量 RL policy 专门学习这部分关键动作。

这可能是 RL 接下来非常现实的位置:

VLA 负责让机器人“什么都会一点”,RL 负责把真正需要落地的那几件事情练熟。

05    VLA:从机器人版“大模型”,进入数据、记忆和“最后一毫米”的硬仗

如果要选一条今天具身智能最受关注的路线,VLA 几乎没有悬念。

它背后的愿望很像大语言模型:

不要再为每个机器人、每个任务训练一个独立策略,而是先用大量、多样数据训练一个通用模型,再让能力迁移到新任务和新本体。

Open X-Embodiment 曾联合 33 个实验室,把 22 种机器人、超过 100 万个 episode 汇集起来。OpenVLA 随后从中整理约 97 万条机器人轨迹训练一个 7B 模型,为此使用 64 张 A100 训练 15 天。

▲图6|VLA 的目标已经从“单任务模仿”走向跨任务、跨物体乃至全身控制。Figure Helix 是目前产业界这一方向最典型的系统之一。

2026 年,这场比赛已经明显升级。

Qwen-VLA 开始把 manipulation、navigation 与 cross-embodiment control 放进统一体系;NVIDIA 的 GR00T 系列则不断增加人类视频、仿真数据和跨本体动作表示,希望把更广泛的物理先验迁移给不同机器人。

Physical Intelligence 的 π 系列则开始展示 compositional generalization:机器人可以组合过去学到的技能,并通过语言 coaching、视觉 subgoal 等方式尝试训练中没有直接出现过的新任务。

卡点:数据、实时性、记忆,以及物理世界“最后一毫米”

VLA 越强,它目前真正的瓶颈反而越清晰。

  • 卡点一:没错,还是数据

文字、图片、视频遍布互联网,但真实机器人“手应该怎么动”的数据并不存在于网页上。

Figure 推出 Index,本质上就是在尝试把人类日常物理行为变成新的训练资源。

Figure 官方称,截至 2026 年 8 月 25 日,平台累计收集超过 1600 万条真实世界视频,并计划未来一年继续大规模投入数据和算力。

  • 卡点二:实时性

语言模型晚半秒回答,用户只会觉得卡;机器人晚半秒调整,杯子可能已经掉了。

Google 因此专门推出 Gemini Robotics On-Device,强调本地低延迟推理。

NVIDIA 的 VLA 体系也把 inference frequency 直接变成部署指标。

  • 卡点三:记忆

当机器人终于会洗锅、叠衣服以后,问题开始从“一个动作会不会”变成:

整个厨房收拾到一半,它还记不记得哪些东西已经处理过?

Physical Intelligence 推出 Multi-Scale Embodied Memory 时就明确提出:随着单个技能越来越可靠,瓶颈正逐渐转向如何组织这些技能完成复杂任务。

RoboMME、RoboMemArena 等 2026 年出现的 benchmark,也开始系统评估 temporal、spatial、object 和 procedural memory。

  • 卡点四:物理世界的“最后一毫米”

知道“插入网线”是一件事;让插头在接触、遮挡和毫米级误差下真正进入接口,是另一件事。

于是触觉、RL、专门的高速控制层又重新回到了系统里。

发展趋势:VLA 正在从“单体大模型”变成带记忆、触觉、RL 和高速执行层的复合系统

越来越多前沿系统不再坚持让一个网络包办所有时间尺度。高层 VLA 负责语义理解和通用动作先验,记忆模块负责维持长时程状态,RL 或专用 policy 负责把关键技能练熟,触觉与高速控制层负责解决接触和稳定性。

VLA 并没有让经典机器人问题消失。它只是把瓶颈从“完全不会做”推到了更深的位置。

06    世界模型:机器人终于开始“想象未来”,但想象必须值得相信

在之前的很多篇内容中,我们都系统分析过「VLA vs 世界模型」:

VLA 通常回答的是看到现在,我下一步该怎么动?

世界模型想再往前一步如果我这么动,世界接下来会发生什么?

这也是为什么视频生成模型突然开始和机器人产生越来越紧密的联系。

NVIDIA 与 Stanford 的 Cosmos Policy 是一个很典型的例子。它直接从预训练视频模型出发进行机器人后训练,不只生成 action,还同时预测未来图像和 value。这样机器人在测试时可以生成候选动作,并借助预测结果进行规划。

随后出现的 Cosmos 3 又更进一步,把语言、图像、视频、音频和 action 放进统一的 omnimodal world model 中,并同时探索 robot policy、forward dynamics 与 inverse dynamics。

▲图7|World Model 的目标不只是“生成一个未来画面”,而是把动作和未来状态绑定起来,让模型能预测某个动作真正会造成什么后果。

卡点:看起来合理,不等于物理上正确

World Model 听起来很漂亮,问题也恰恰藏在“漂亮”里。

假设机器人把杯子往前推。

世界模型预测它移动了 10 厘米,画面看上去完全合理;真实世界里杯子却因为摩擦只移动 3 厘米。

作为生成视频,它可能已经合格。

作为机器人 planner,它可能已经错得足够致命。

2026 年针对机器人 world model 的综述因此把几个问题单独提出来:

  • contact modeling
  • hallucination control
  • action alignment
  • closed-loop evaluation

其中 action alignment 尤其关键。

世界模型不能只生成“某个看起来合理的未来”,它必须预测:

执行这个特定动作以后真正会发生的未来。

而目前连这一能力的统一评价标准都还不成熟。

发展趋势:从“生成未来”变成机器人决策的基础设施

真正有用的 World Model,评价标准正在从“视频像不像真的”转向“能不能改善真实决策”:它是否忠实对应特定动作,是否能筛掉危险候选,是否能在闭环里保持可信?

而不是被策略找到只存在于模型幻觉中的捷径。所以,对世界模型而言,下一阶段的比赛可能已经不是谁更会“脑补”。

而是谁的脑补,真正值得机器人拿自己的身体去相信。

07    比“端到端还是模块化”更有意思的答案

把这六条路线放在一起,会出现一个很有意思的变化。

几年前,端到端具身智能最“诱人”的愿景是:摄像头进,大模型出,电机直接动。

中间那些 planner、状态机、技能接口,最好统统消失。

但走到 2026 年,最前沿的系统反而重新开始出现明确的层级。

Figure 的 Helix 02 是最直观的案例。

它仍然强调一个统一学习系统,但内部按照物理世界不同的时间尺度分成三个层级:

  • System 2:负责较慢的语义理解与目标推理;
  • System 1:以 200 Hz 把感知转换成全身关节目标;
  • System 0:以 1 kHz 负责平衡、接触和全身执行。

▲图8|Helix 02 的 System 2 / System 1 / System 0 分层。不同层按照不同时间尺度工作:语义推理更慢,视觉动作策略更快,而平衡和接触控制进入 kHz 级。

换句话说,大模型真的越来越接近机器人“大脑”了,但真正把身体稳稳撑住的,依然需要毫秒级的另一套智能。

Google 的 Gemini Robotics ER 2 也把高层 reasoning 和低层 VLA execution 分开;Physical Intelligence 则在 VLA 外面继续增加 memory、world model subgoal 和在线 RL。

这似乎正在指向一个比“端到端还是模块化”更有意思的答案。

未来的机器人或许不会回到过去那种每个模块都由工程师手写规则的系统,但也未必会由一个巨大网络从头包办到底。

模块化没有消失,它只是从“人工定义的模块”,逐渐变成了“学习出来的模块”。

过去,机器人按照感知、规划、控制被工程师拆成不同部件。

现在,它可能按照记忆、推理、预测、动作生成和高速控制,被学习系统重新划分。

真正的分叉,也许已经不是“经典机器人”和“大模型机器人”谁替代谁。

而是当机器人真正进入物理世界以后,我们到底应该把哪些事情交给一个通用模型,哪些事情交给专门的快速策略,又该如何让它们在不同时间尺度上共同工作。

从这个角度看,具身机器人已经走得很远。

但距离它真正成为像手机、汽车一样可靠的通用产品,也才刚刚开始。

相关推荐

具身智能、端到端、自动驾驶、大模型......技术交流群汇总

深蓝学院搭建了16个领域的交流群(具身智能、端到端、自动驾驶、机器人、大模型......等等),小伙伴们可以在群内交流、分享问题、获取行业资讯。这样在各大企业工作的,可以相互内推,互通信息;在学校读研读博的,可以交流想法,携手合作。截至目前,我们的社群已经细分到了【16】个子方向的领域,并且还在不断地壮大规模!不限学校、不限专业,只要你是人工智能相关行业的人就能加入(社群内会有。的面试题以及论文资源,还有相关领域的小伙伴一同学习、交流!所以,如果你想要跟更多优秀的小伙伴扎堆学习成长,后台私信。

soaring_casia的专栏 425

2024年自动驾驶规划控制面试及答案

A*吸取了Dijkstra 算法中的cost_so_far,为每个边长设置权值,不停的计算每个顶点到起始顶点的距离(G),以获得最短路线, 同时也汲取贪婪最佳优先搜索算法中不断向目标前进优势,并持续计算每个顶点到目标顶点的距离(Heuristic distance),以引导搜索队列不断想目标逼近,从而搜索更少的顶点,保持寻路的高效。DWA,TEB算法。通常情况下,在机器人高速运动的时候,想要得到非常连续、平滑、噪音低的运动控制,第3个约束条件是必不可少的,有的甚至还要求加速度的导数jerk都是连续的。

soaring_casia的专栏 1899

彻底搞懂3DGS|不用神经网络逐点查询,为什么一团团高斯也能渲染三维世界?

为了知道画面某个像素是什么颜色,系统会从相机发出一条光线,沿光线选取许多三维采样点,再查询对应的密度与颜色,通过体渲染合成像素。假设一开始只有一颗很小的高斯,面对一片有复杂纹理的区域,就算把它调得再准确,也很难覆盖所有细节。想象一堵很薄的墙,或者自行车的一根细长车架。每颗高斯只分配给可能被它覆盖的 Tile,之后借助 GPU 上的快速排序,组织每个 Tile 内的候选高斯,再进行像素颜色合成。它们可以改变形状、方向、透明度和颜色,还可以在训练中被复制、拆分或移除,让表示能力逐渐集中到真正需要细节的地方。

soaring_casia的专栏 316

Science Robotics|只靠一只前视摄像头,时速100公里!AI无人机跑赢世界冠军

首先,赛门顺序和几何形状是已知的,系统高度利用方形赛门的结构,并不是完全未知环境的自主探索。其次,MonoRace的视觉感知与控制仍是分开的模块,并非视觉到电机的全端到端学习。再次,它没有加入其他无人机的检测与避碰能力,所以在多机竞速项目中撞上其他队伍的无人机,最终只获得第三名。为此,系统会根据自己刚刚估计的飞行位置,预测下一道门大概会出现在哪里,再把图像中最有价值的区域裁剪出来处理。它接收无人机估计的位置、速度、姿态及与赛门有关的状态等信息,直接输出四个电机的控制指令,不再经过传统的多级内环控制器。

soaring_casia的专栏 347

随手拍几张照片,重建完整 3D 资产:NVIDIA GATOR,生成打底 + 智能体精修

GATOR 的做法是在每个 patch 上,对对齐的 RGB、掩码、点图三个 token 做一次注意力,让模型在同一位置同时看到"长什么样、是不是目标、深度对不对",既能保留周围场景上下文,又能把目标从杂物里分出来,还对深度和掩码的估计误差更鲁棒。GATOR 的价值不在于某个 CD 或 F1 又刷低了,而在于它把"生成式重建"和"智能体精修"这对看似矛盾的思路真正融合成了可用的流水线:生成负责在一两分钟内给出完整、带位姿、八成可用的资产,智能体只在可靠基础上做局部手术,用渲染回看决定取舍。

soaring_casia的专栏 294

点云有了 XYZ,强度怎么办?IROS 2026 NIDAR 给出零样本生成方案

进入 Isaac Sim 与 Unreal Engine 5(UE5)后,同一流程又能利用场景已有的 RGB、几何与标定,为仿真点云补充强度,把真实数据上的重建方法延伸到不同平台。作者将 RGB、深度和 NIDAR 派生表示接入 BC-RNN(基于循环神经网络的行为克隆)策略,并与 RGBD、RGBD+灰度进行对照,考察近红外/反射率相关线索能否成为抓取策略的有效补充。部署时,系统结合相机与 LiDAR 标定,将图像表示关联到已有点云,经几何相关处理和分位数重映射,生成点级强度。

soaring_casia的专栏 504

24小时拿下近13%付费团队!这个“只做判断”的模型,戳中了Agent的命门?

这里最值得看的不是谁在一张表里“赢了”,而是当任务被限定为重复、结构化判断时,专用决策模型确实出现了与通用 LLM 不同的效率曲线。Vercel 在介绍 Jev 时列出的使用场景就集中在这些位置:选择 Agent 下一步使用的工具或子智能体、判断工作流应该继续还是停止、给操作做风险评分、验证模型输出,以及把不确定案例转给人工。真正值得注意的不只是“火得快”,而是一个几乎不做文本生成的专用决策模型,第一次获得了大规模开发者的集中关注。选一个分支,本来是个分类问题,一个几百 KB 的小模型或几行规则就能处理;

soaring_casia的专栏 507

GPT-6 太慢?清华叉院提出 Spotter:具身模型先执行,VLM 只在出错时介入

研究团队在 Franka Research 3 机械臂上部署 Spotter,具身模型为基于遥操作数据微调的 π0.5,测试了三项任务:叠杯、将方块放入杯中,以及包含两个子步骤的长程任务(先将方块放入杯中,再将另一方块放至盘中),每项任务测试 10 次。这里的具身模型,指直接输出机器人动作的模型,如视觉-语言-动作模型(VLA)π0.5、世界动作模型 Cosmos Policy。实验显示,在相同步数限制下,Spotter 的成功率与 VLM 全程指挥的方案相当或更高,成功任务的耗时却接近具身模型单独执行;

soaring_casia的专栏 420

彻底搞懂NeRF|一组照片,为什么能生成从没拍过的视角?

2020 年,NeRF(Neural Radiance Fields,神经辐射场)给出了一个很有代表性的答案:它不急着先生成传统的三角网格,而是训练一个神经网络,让网络学会回答三维空间中的“这个位置有什么、朝这个方向看是什么颜色”。随后,再利用这套表示渲染出新的照片。例如,一面纹理稀少的白墙可能渲染得很像真实照片,但网络对墙面细小凹凸、厚度乃至未被观察到的背后结构,未必有足够可靠的约束。观看时最值得注意的,不是它把某张照片“转动”了,而是相机位置连续变化时,物体的遮挡、透视和细节仍然尝试保持一致。

soaring_casia的专栏 163

全开源!浙大高飞团队发布CrossFly:面向无人机跨室内外交互导航的全新基准

论文在未见过场景测试中观察到,带高层规划的 CrossFly‑Agent 相比无规划的方法在室外套件把 SR 从 16.2% 提到 18.5%,说明子任务监督总体是正向收益,但提升幅度有限,也侧面反映跨域长时序导航本身很难靠单点改动大幅拉高。从结果看,即便是分层设计的 CrossFly‑Agent,未见场景跨域任务成功率也只有 9.7%,说明异构环境下长时序、面向交互的空中移动仍是一个远未解决的问题。输入为全局指令、高层预测的子任务、夹爪状态,加上三帧图像:初始帧、3 秒前的画面、当前帧。

soaring_casia的专栏 306

在最难的泛化任务上,它比 Harness VLA 高 31 个点!

在外层构建一套自进化智能体框架,借助假设图做信息价值引导的物理试验选择,让代码和技能协同进化,再通过强化学习筛选有价值的分层记忆,每一次实体机器人试错都产出最大的信息收益。快速系统维护一张假设图,节点代表候选的代码假设、技能假设,边记录假设之间的迭代 refine 关系,每一次物理试验得到的轨迹、任务成败证据,用来更新各个假设的置信度。,打造了一套自进化智能体外层框架,让机器人自主判断下一步该探索什么,把实体交互的试错结果,直接转化为可复用的代码与操作技能。可以看到,简单原子任务场景仅代码方案尚可;

soaring_casia的专栏 507

具身智能卷到模型层之后,竞争开始往 Harness 上转移了……

Thea:论文(https://arxiv.org/abs/2608.11246)、系统架构(https://eit-hai.github.io/thea/system.html)、物理世界接口(https://eit-hai.github.io/thea/gaps.html)、实验(https://eit-hai.github.io/thea/experiments.html)图中左侧提供已知测试信号,中间是单独取出的被测组件,右侧观察其响应,使开发者可以集中检查这一部分的行为。它的能力边界同样清楚。

soaring_casia的专栏 563

具身智能的下一层:VLA、WAM 之后,抢的是 Harness 这层“衔接”

这样看,VLA 更强调观测、目标与动作之间的连接,WAM 更明确地学习动作对应的未来变化,两种能力也可以融合在同一个模型中。▲图4 | SelfWAM 中部展示训练时视频与动作信息如何交互,右上角给出单独的动作预测路径,右下角是可选的视频预测路径。两条路径的分开,使模型既能利用世界预测学习动作,也能在执行时保留较轻的动作生成流程。底部箭头将执行后的真实观测重新送回模型,刷新历史信息,让下一轮动作依据更新后的现场继续生成。模型能力的提升,还要通过合适的调用与反馈流程,才能稳定转化为完整任务的收益。

soaring_casia的专栏 580

机器视觉中CNN与Transformer的原理及应用差异

涵盖鸟瞰图视角场景重建,多雷达与相机传感器特征融合,车辆行人轨迹预测以及可行驶区域精细化分割等核心任务,现有量产自动驾驶方案多采用卷积主干加Transformer辅助建模的混合结构。,这类机器人需要动态识别多变环境中的物体关联,需要建模远距离场景布局,全局注意力机制可以有效提升复杂环境下的感知鲁棒性,帮助机器人完成避障路径规划和适应动态场景。动态避障也是类似逻辑:卷积擅长认出"这是什么",但很难判断"它接下来往哪走"——带时序注意力的结构可以关联多帧特征,预判轨迹。远距离特征的交互,一次运算就能完成。

soaring_casia的专栏 548

百万无人机三维空域无冲突规划!浙大GuardPIBT:保留PIBT内核,神经网络只做残差建议

GuardPIBT提出一个很务实的思路:大规模多智能体规划,不用非此即彼——要么纯传统搜索,要么完全端到端神经网络。另一组启用网络重排序干预。保持优先级噪声、环境完全一致,对比H步闭环执行之后的整体代价,计算干预带来的收益,以此作为门控网络的标签。对停滞不前的少量长尾智能体,再调用时间索引SIPP做局部修复,不对全部智能体做昂贵的完整重规划,把算力消耗集中在少数卡住的个体。但也要认清边界:目前是离散体素仿真层面的验证,想要落地真实无人机集群,还需要对接动力学、噪声感知、在线动态新增/消失智能体等现实问题。

soaring_casia的专栏 503

港科广UniWAM:把VLA和WAM揉进同一个Transformer,仿真真机双SOTA

而更有参考价值的是分布偏移测试LIBERO‑Plus,用来模拟光照、视角、物体布局、机器人状态、语言指令扰动,UniWAM总体成功率92.6%,在机器人本体扰动、语言指令、光照、背景扰动维度上取得最优结果。三者通过共享的注意力层互相交换信息,动作生成可以参考语义理解,也可以参考对未来画面的预判。,依靠人类第一视角数据、机器人演示数据、VQA数据联合预训练,在仿真、真实双环境的多项基准刷新性能,还揭示了人‑机联合预训练的对数‑线性缩放规律,为通用机器人基础模型提供了新的实现路径。

soaring_casia的专栏 583

世界模型只训不推!华科&地平线ReDrive:推理期极简的端到端自动驾驶框架

对时空token施加掩码,利用可见部分特征预测被掩码位置的潜表征,由EMA目标编码器生成目标特征,使用L1损失对齐预测与目标表征。推理阶段舍弃未来预测器,保留编码器‑规划器极简链路,在仿真基准拿到不错指标的同时,降低车载推理算力压力。推理链路足够简洁,但仅依靠轨迹损失监督,表征很难学到场景未来演化规律,规划性能存在明显天花板。推理链路对比可以直观体现架构优势:对比推理阶段携带未来预测的世界模型方案,ReDrive上线推理完全剔除预测分支,前向计算仅保留编码器与规划器,不存在额外生成开销。

soaring_casia的专栏 255

李飞飞团队把灵巧手数据交给 Agent,只用1条人类视频让真机成功率暴涨 3.5 倍?

▲表 |十一项任务的真实世界回放成功率。实验覆盖11项真实灵巧操作任务,任务类型包含刚体、铰接件、可变形物体,任务包括开瓶子、剪刀裁剪、礼物盒打包、打结、多杯抓取、电脑装机等。但现有方案大多是固定流水线,刚体、铰接物体、可变形物体需要完全不同的重建与运动生成逻辑,长时序多子任务场景很容易发生错误传播。重建完成后,优化仿真内物体掩码和视频掩码IoU,确定物体初始位姿,把物体、机器人一并部署进仿真环境。生成轨迹之后,调用仿真校验器验证接触、运动可行性,不达标就迭代调整,校验全部通过才进入下一阶段。

soaring_casia的专栏 331

TRO顶刊|隐蔽攻击下的多机器人安全学习控制:小规模学习,大规模泛化

简单说,它不是等攻击被检测出来再补救,而是把攻击者和防御者放进同一个微分博弈里,在线学习双方的策略,让机器人团队在“最坏攻击”下继续完成任务。在 β = 0.5 的包含控制实验中,DSLC 的 IAE 为 21.44,低于 DRHRL 的 31.66,相对降低 32.3%,说明它在攻击下确实实现了更优的控制性能。每组左侧为实物快照,右侧为运动轨迹。在六机器人直线编队实验中,β = 1 时,DSLC 的 IAE 为 2.19,DRHRL 为 7.30,相对降低 70.0%,体现了受攻击时的协同控制性能改善。

soaring_casia的专栏 346

穿缝抓杯、拿瓶浇花:南洋理工团队让无人机从“会飞”走向“会干活”

学习时,让视觉反馈支撑接近、合爪和带载抬升;随后,从正在执行的指令状态出发构造平滑过渡,沿用 QuadHand 的全身规划框架生成可执行轨迹:联合调整路径进度和分段时长,使机身与机械臂满足运动约束,夹爪开合也随重新安排的进度触发。穿缝抓杯和拿瓶浇花让这些问题变得直观,也留下了明确的下一步:真实接触与在线感知、局部技能稳定性、场景变化适应和失败后的恢复,都需要继续提高。要执行“拿起书旁边的水瓶,给走廊里的植物浇水”,系统先在预建场景图中解析类别和空间关系,确定唯一目标,再将局部技能与跨区域转场组成有序计划。

soaring_casia的专栏 322

用卫星地图训练无人机导航!SatNav:11.8万条长程导航任务,真机部署已验证

受房间、走廊的空间和通行条件限制,室内很难构建丰富的长距离路线,模型的长期记忆和连续决策能力也难以得到充分测试。室外有丰富的建筑、湖泊和道路,借助卫星地图,可以方便地生成不同长度和布局的任务。不带星号的模型从对应的基础模型开始训练。UniNaVid 使用已有导航训练的权重,再在 SatNav 上微调,相比从通用基础模型开始训练,在 Test Seen 和 Test Unseen 上的成功率分别提升。适配器将无人机图像的特征对齐到卫星图像的特征空间,让 SatNav 上训练的导航模型能够使用真实无人机画面。

soaring_casia的专栏 528

清华 AIR 重磅三连:不改一行权重,跑通机器人自进化闭环

真机化学实验场景 ChemLab-Evo(ARX 机械臂)Level-1 三任务均值 83.3%(π0.5 73.3、Cosmos3-Nano 70.0、Fast-WAM 76.7、LingBot-VA 71.7),其中取试管 100%、放烧杯 70%、倒水 80%;实验数据显示,LIBERO-Pro 上 π0.5 的 Goal-T 由 31.0% 升至 92.5%、Goal-S 由 38.0% 升至 89.0%,Goal 平均 34.5%→90.8%;held-out 即便严谨,也仍是同一实验室的划分。

soaring_casia的专栏 317

像素扩散缺的不是构图,是纹理:UCSD×Adobe 用 GAN 后训练补齐高频

在 DeCo 的匹配实验中,感知监督提高了 TOPIQ 和 MANIQA 等无参考质量分数,却使 FID 从 33.27 变为约 34.1,DPG 从 81.6 变为 81.4。原有学习目标继续约束生成过程,额外的判别器比较真实图像与模型预测的干净图像,并为生成模型提供反馈。对抗监督的效果,既取决于输出中是否存在可修正的误差,也取决于可训练的表示能否有效改变这些图像成分。一张生成图可以有正确的构图和主体,却仍然缺少让人相信它的纹理:毛发略显平滑,砖墙不够细致,材质也少了一些层次。加粗为各模型中更好的结果。

soaring_casia的专栏 564

JEPA进军端到端!杨立昆团队最新:百倍推理加速,让JEPA世界模型真正能“上车规划”

可以清晰看到基线的矛盾:DINO‑WM、JEPA‑WM规划效果优秀,但单场景规划耗时接近100秒,完整数据集评测几乎不可行,完全达不到自动驾驶实时性硬性约束;LeWM速度快,但几何误差巨大,FDE达到12.4米,规划基本不可用。这篇AD‑E2E‑JEPA论文瞄准一个很现实的工程痛点:现有的JEPA自动驾驶世界模型陷入两难,一部分模型规划精度尚可,但单场景规划耗时动辄一分钟以上,完全无法实车部署;,FDE为3.2m,Top‑1命中率47%,已经追上DINO‑WM、JEPA‑WM的规划水平。

soaring_casia的专栏 153

浙大高飞团队DiffWAM:不生成视频也能导航,机载延迟1.08秒,让无人机导航更快更轻

第一,时序关联:在特征网格内部,跨时间索引抓取前后时刻特征,计算特征差异,捕捉物体、相机的运动变化;在模型计算新轨迹的这段时间,飞行器本身还在不停运动,等推理完成之后,观测对应的机体状态已经发生偏移,新生成轨迹和现实机身状态对不上,这是大模型机载部署非常现实的工程痛点。浙大高飞团队联合微分智飞提出的DiffWAM给出一条不一样的技术路径:不需要在线输出完整未来视频,直接复用冻结视频世界模型的多层中间预测特征,搭配单帧图像几何信息,解码输出连续的无人机SE(3)相机轨迹。

soaring_casia的专栏 343

Claude满分、GPT 99分!何恺明团队VISTA把ARC-AGI-3打穿了,动作比人类少57%

上下文快要溢出时,模型写一份交接摘要,开启全新上下文会话,,只是在模型外部增加视觉工具层,原始观测图像完整保存,模型推理过程中可以主动调取历史任意帧画面、放大局部细节,不用把画面压缩成文本摘要。在开源模型GLM‑5.3 Flash 320B上面,完整VISTA也实现66.93的RHAE,远高于官方基线1.89,证明这套视觉harness不是闭源大模型专属,对开源基座同样有增益。该工作给出一个很有启发的思路:提升交互式智能体,不一定一味追求更大的基座模型,也可以在模型外层做“感知‑记忆‑检索”的外设框架。

soaring_casia的专栏 537

香港中文大学:人形全身操作的三大痛点,WholeBodyWAM 如何破解?

不同全身控制器(Whole-Body Controller, WBC)对外暴露的命令接口,物理含义并不一致——相似的动作,在A控制器里是任务空间目标,在B控制器里可能是关节目标,导致动作语义难以复用;图1 | WholeBodyWAM总览:面对“扩展动作接口”与“从零重学全身”两条路线,论文选择第三条路——通过WBC锚定,把预训练WAM的世界–动作先验保留并推广到人形全身操作。在每任务50/100条示教的低数据预算下,WholeBodyWAM的优势最大——这正是“有效复用预训练世界–动作先验”的直接体现。

soaring_casia的专栏 142

Bridge-WA 把世界模型拆成三件事:未来状态、变化区域、局部运动

WorldBridge 根据世界先验与当前动作特征的匹配程度,调节注意力更新和 FiLM 特征调制的强度:先验有帮助时使用它,先验与当前决策不相容时减弱它。视觉语言动作模型(VLA)已经能够理解“拿起什么、放到哪里”,但到了真实操作现场,背景、光照或相机视角稍有变化,动作仍可能失误。不要求机器人在每次决策时生成未来视频,而是从当前观测预测未来状态、变化区域和局部运动,再通过可靠性门控将这些先验用于动作生成。论文中的例子显示,任务语义没有改变,仅仅更换外观或视角,就可能出现碗掉落、机械臂碰撞等失败。

soaring_casia的专栏 426

中国高校“屠榜”Nature Index,哈佛十年第一首次易主?

清华增长 18.7%,上海交大增长 25.6%,中科大增长 20.1%,北大增长 16.8%,南京大学增长 16.5%,四川大学增长 33.3%,复旦增长 21.6%。按照 2026 Research Leaders 公布的数据,哈佛的 Share 从 2024 年的 1251.70 增长到 2025 年的 1259.01,身体进得去,形态变得了,策略学得对物理,技能留得住。把这些工作重新放回 Nature Index 的榜单里,会发现这篇文章真正有意思的地方,并不是要证明“榜单上的学校机器人都很强”。

soaring_casia的专栏 346

从单帧到整组相机:浙大 StreamRig 将 rig 内几何引入流式里程计

零样本条件下,StreamRig 的三项指标均列第一:平移漂移 3.48%(次优 CUT3R 为 4.61%),ATE 0.88 米,旋转漂移 14.88°/100 m,较 CUT3R 的 39.85°/100 m 低约 63%。对真机数据昂贵的人形机器人,“仿真训练、真机直接部署”的路线已在 ZJH 上得到初步验证,但真机的公制尺度仍需额外标定。展望方面,NCLT 上的探索性试验提示,压缩后的 rig token 或可用于同一采集序列内的重访检索,但论文未对此做定量评估,判定阈值也仍需逐序列调整。

soaring_casia的专栏 602
上一篇: DexTacWAM把世界动作模型推进到指尖!22自由度双手灵巧手,终于学会“预判打滑”了
下一篇: 从单帧到整组相机:浙大 StreamRig 将 rig 内几何引入流式里程计
深蓝学院
深蓝学院 深蓝学院 深蓝学院
博客等级 码龄12年 3755粉丝 977原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值