JEV-9B控制机械臂:一次前向传播搞定抓取放置,视觉决策从仿真到实操

【免费下载链接】JEV-9B

项目地址: https://ai.gitcode.com/hf_mirrors/autotrust/JEV-9B
点击查看 免费下载

JEV-9B 是一款集成 System 1 + System 2 的开源决策模型,2026 年 10 月更新后能读取相机图像:把画面喂进去,用一次前向传播(约 0.2 秒)就能给出每个动作的概率,直接驱动机械臂完成抓取与放置——这是一个非常典型的视觉决策应用。本文带你从零看懂它的原理、三步跑通演示,并给出实测效果数据。


🤖 JEV-9B 是什么:一个能"看"的决策模型

JEV-9B 基于 Qwen3.5-9B 搭建,核心卖点是同一套权重同时提供两种"思考方式":

系统作用特点
System 1(快思考)输出校准过的概率分布一次前向传播搞定,无需逐字解码
System 2(慢思考)正常的文本生成与推理完整保留 Qwen3.5-9B 的生成能力

2026 年 10 月的更新让 JEV-9B 多模态:由于它的语言权重与 Qwen3.5-9B 完全一致,官方直接用未改动的多模态 Qwen3.5-9B(自带视觉编码器)+ JEV-9B 的 System 1 适配器来提供服务。于是"相机图像进、动作概率出"的闭环就成了现实。相关权重见 vl/adapter_vllm/。


🎯 从相机图像到机械臂动作:核心原理

一个"快视觉评委",而不是端到端控制器

作者最初尝试让模型直接从 8 个电机命令里挑一个(左移、右移、下放、抓取……),但效果不佳。结论是:JEV-9B 是一个快速的视觉评委,而不是端到端的控制器——它擅长"看图做判断",不擅长"一步到位输出控制量"。

于是改用更聪明的视觉伺服(visual servoing)二分策略,让 System 1 每步只回答两个二选一问题:

  1. 目标在夹爪的左边还是右边?(left / right)
  2. 目标在夹爪的上方还是下方?(above / below)

关键技巧:每当某个方向的回答发生翻转,该轴的移动步长就减半(二分逼近);连续三次同向则把步长翻倍。步长缩小到 0.04 以内后,还会给夹爪正下方区域加一张 2.5 倍放大图辅助精定位。

抓取放置的完整流程

整套逻辑分两个阶段,全部由 System 1 的"二选一"决策驱动:

  1. 阶段一 · 移到方块上方:以夹爪在地面的投影(顶视图里的黑点)为参考,二分逼近目标方块正上方。
  2. 阶段二 · 移动到托盘上方:抓起方块后,以夹爪为参考,把"黄色托盘"当作目标,再次二分逼近,然后松爪释放。

每一步只读顶视相机,决策约 165 ms,无需任何解码过程。完整实现见 vl/demos/robot_arm.py。


🚀 快速上手:3 步跑通机械臂抓取放置

前提:一台带 GPU 的 Linux 机器,已安装 huggingface_hub 与 MuJoCo 渲染依赖。

Step 1 — 下载视觉模块

hf download autotrust/JEV-9B --include "vl/*" --local-dir JEV-9B

Step 2 — 启动决策服务

bash JEV-9B/vl/serve.sh

该脚本会自动拉取多模态 Qwen3.5-9B(含视觉编码器),并在 :8000 同时服务 System 1(POST /v1/decide)与 System 2。脚本见 vl/serve.sh,决策入口见 vl/serve_decide.py。

Step 3 — 运行机械臂演示

MUJOCO_GL=glfw DISPLAY=:99 python3 JEV-9B/vl/demos/robot_arm.py run2 20

跑 20 个随机场景,控制台会实时打印每个场景的决策次数、成功率与延迟,结果落盘到 arm2_results.json。


📊 效果实测:MuJoCo 仿真里的抓取与放置

演示在 MuJoCo 中运行:桌上有三个彩色方块 + 一个黄色托盘,机械臂需抓起指定颜色的方块并投入托盘。实测要点:

指标结果
随机场景数20
任务完成10 / 20
抓取成功者去向全部落入托盘(无夹错、无丢件)
失败原因抓取时定位偏离目标 3–5 cm
单次决策延迟约 165 ms

解读:模型"抓到的都放对了",失败集中在初始定位精度(差 3–5 cm 就抓空),说明 System 1 的视觉判断可靠,瓶颈在几何精度而非决策逻辑。完整逐场景数据见 reports/vl/robot_arm.json。

演示视频可本地查看:videos/robot_arm_pick_place.mp4


🖥️ 顺带一提:它还能"用电脑"

同一套 System 1 视觉决策能力,也被用在计算机操作上:给真实浏览器截图 → 给每个可点击元素编号 → System 1 选出下一步点哪个(或"任务完成")→ 循环。在无文字的色块、开关等场景下依然靠纯截图决策,60 个随机多步任务完成率 95%(详见 reports/vl/computer_use.json)。


📁 关键文件速查

文件说明
vl/demos/robot_arm.py机械臂抓取放置演示(含二分视觉伺服逻辑)
vl/serve.sh一键启动多模态决策服务
vl/serve_decide.pyPOST /v1/decide 决策入口
vl/adapter_vllm/System 1 适配器(vLLM 版,含决策头)
vl/calibration.json按类型的温度校准参数
reports/vl/图像类评测:robot_arm、computer_use、vl_rewardbench 等
videos/机械臂与计算机操作演示视频

✅ 小结

  • 一次前向传播 = 一个 System 1 决策,图像进、概率出,约 0.2 秒/步。
  • 让快模型看图做二选一判断(而非一步出控制量),再用二分视觉伺服驱动机械臂,是这套方案能跑通的关键。
  • 实测"抓到的都放对",瓶颈在几何精度,非常适合当作轻量视觉评委嵌入更复杂的控制回路。

提示:JEV-9B 的 System 1 面向的是"快速、校准的概率判断",用于高可靠任务时建议叠加置信度门控,把低置信样本交给 System 2 或人工复核。

【免费下载链接】JEV-9B

项目地址: https://ai.gitcode.com/hf_mirrors/autotrust/JEV-9B
点击查看 免费下载

创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值