技术博客
VLA

机器人失败之后,数据才真正开始有价值:ALTER、实验结果与 N0-VTLA 的边界|下篇

yiwan-cat2026-08-09 23:50
机器人失败之后,数据才真正开始有价值:ALTER、实验结果与 N0-VTLA 的边界|下篇

传统模仿学习最喜欢“干净”的成功示范。

但机器人一旦真正部署,产生最多的往往不是完美轨迹,而是一些更复杂的过程:毛巾从夹爪中掉落,机器人把它重新抓起;纸箱折到一半卡住,人类接管几秒钟,把动作拉回正轨;某次尝试没有彻底失败,却停在一个比开始更糟的状态。

直接丢掉这些数据很可惜,因为它们恰好告诉模型“什么动作让任务退步”“怎样从错误状态恢复”。可如果把整条轨迹都当作正示范,又会把失败动作一起学进去。

ALTER 要解决的就是这个矛盾:不再只问一条轨迹最终成功还是失败,而是比较轨迹中的两个时刻,判断哪一个更接近任务完成,再把这种相对进展转成离线策略训练所需的优势标签。

ALTER 的全称是 Advantage Labeling from Trajectory Events and Relative Progress,即“根据轨迹事件与相对进度生成优势标签”。它不需要再次与环境交互,而是在固定部署语料上完成优势条件离线强化学习。

第一步:保留四类经验,而不是只保留成功示范

ALTER 使用的数据包括:

  • 干净的遥操作示范;
  • 策略自主运行产生的轨迹;
  • 人在回路(Human-in-the-Loop,HIL)纠正轨迹;
  • 从指定错误状态开始、由人类完成恢复的分阶段恢复轨迹。

三个长程真实任务的语料规模分别是:

任务 干净示范 自主轨迹 HIL 轨迹 其中分阶段恢复
毛巾折叠 351 286 180 80
背包整理 213 243 238 72
纸箱折叠 550 587 397 110

这些类别彼此互斥,恢复数据计入 HIL 总量。可以看到,部署数据并不只是成功样本的补充,自主失败和人工纠正占据了相当大的比例。

第二步:先把长任务拆成阶段,再谈“进步了多少”

长程任务不能只用总时长表示进度。

例如折毛巾时,“把毛巾展开”可能耗时很长,“把它移到左侧”则很短。如果简单把整个视频从 0 均匀标到 1,就会默认所有时间片都以相同速度接近成功;如果把每个阶段平均分配同样进度,又会让一个短暂过渡和一个复杂操作占据同样权重。

ALTER 先用 Gemini-3.5-Flash 从代表性示范中生成一套任务模板,包括总目标、阶段和更细步骤,再由人工对这套任务级模板审核一次。之后,词汇和顺序固定,不再逐条轨迹随意修改。

对每条干净示范,系统先用多种信号找动作边界:触觉接触变化是主要线索,再由末端运动、夹爪状态和视觉事件补充。VLM 只负责把已经分割好的时间区间映射到任务模板中的阶段,而不是直接从整段视频猜所有时间戳。

阶段权重按干净示范中的平均持续时间分配:

$$\
w\_k=\frac{\bar d\_k}{\sum\_{j=1}^{K}\bar d\_j},\qquad\
\phi\_t=\sum\_{j\<k}w\_j+w\_ku\_t.\
$$

$\bar d_k$ 是第 $k$ 个阶段的平均时长,$u_t\in[0,1]$ 是当前阶段内部的完成比例,$\phi_t$ 则是时刻 $t$ 的全局任务进度。

这使进度同时包含两层信息:现在已经走到哪个阶段,以及在这个阶段内部走了多远。

第三步:失败轨迹不强行单调,而是从事件前后生成偏好

干净示范通常可以近似看作持续向前,但自主轨迹和 HIL 轨迹会退步、重试甚至来回震荡。ALTER 因此不会给整条失败轨迹强行贴上单调递增进度。

它只在能够可靠定位的事件附近建立局部偏好:

  • 触觉接触突然消失,可用于定位物体掉落;掉落前的状态应优于掉落后;
  • HIL 日志标出人工接管区间;纠正结束附近的状态应优于纠正开始附近。

这些稀疏事件偏好,与干净示范中的密集阶段进度对一起训练一个成对进度模型 $A_{\theta}(x_a,x_b)$。模型接收两个时刻的多视角 RGB 与任务指令,输出二者的相对任务进展。

一个容易忽略的细节是:触觉、运动学和事件日志用于构造监督信号,却不是这个进度模型的输入。真正推断进度时,模型看的是 RGB 与任务提示。这降低了部署时对额外标注信号的依赖,也意味着 ALTER 的进度判断并不是一个“直接读取触觉大小”的规则。

第四步:把全局阶段与局部变化合成优势标签

训练好进度模型后,ALTER 将其冻结,并对所有保留轨迹计算两个量:

$$\
\hat\phi\_t=\delta\_e+A\_{\theta}(x\_t,x\_{e0}),\qquad\
\hat r\_t=A\_{\theta}(x\_{\min(t+H,T\_e-1)},x\_t).\
$$

第一个比较当前画面与回合起点,估计机器人已经走到任务的哪个阶段;第二个比较当前画面与一个动作块之后的画面,估计局部执行是在前进、停滞还是退步。

接下来,样本只与同一预测阶段内的其他样本比较。每个阶段中局部变化排名前 30% 的样本被标为 Advantage: positive,其余样本标为 Advantage: negative。这个标签直接追加到原任务提示中,策略仍然用原来的流匹配动作目标训练,架构无需增加新的价值头。

部署时统一使用正优势条件,相当于告诉策略:在当前任务下,生成更像“能让局部进展位于本阶段前 30%”的动作。

这里还有几项防噪设计:全局进度先经过五帧中值滤波;阶段编号被约束为不后退,但局部变化本身仍允许为负;恢复轨迹由于并非从任务起点开始,需要单独估计初始偏移 $\delta_e$;训练时优势标签以 0.3 概率被省略,防止策略完全依赖额外文本。

进度模型能看出“掉了以后又捡回来”吗

论文给出的毛巾折叠案例很有代表性。

第一条轨迹中,毛巾掉落后,预测进度随之下降,在恢复开始附近达到局部最低点;机器人重新完成有效操作后,进度才恢复上升。第二条轨迹中,已经展开的毛巾在搬运时重新皱成一团,而且没有恢复,预测进度一路保持低位直到结束。

这至少说明,在展示的留出案例上,模型没有把“时间继续流逝”误判成“任务继续推进”。它能够让进度在错误发生时下降,并区分恢复与未恢复。

但定性曲线仍不能替代系统性的进度预测误差统计。论文主要通过下游策略成功率证明这些标签是否真正有用,而不是把 ALTER 作为一个独立进度估计器全面评测。

真实机器人结果:触觉的优势集中在接触决定成败的任务

NeoReal 包含 9 个真实机器人接触密集型任务。N0-VTLA 与内部复现的 ACT、$\pi_{0.5}$ 在统一协议下比较,每项任务报告闭环成功率,同时用 100 分阶段里程碑给未完全成功的轨迹计算进度分。

整体结果如下:

指标 ACT $\pi_{0.5}$ N0-VTLA
9 项任务平均成功率 0% 29.4% 47.2%
平均进度分 10.2 42.3 56.8

N0-VTLA 在 9 项任务的成功率上全部超过最强基线;进度分则在 9 项中领先 8 项。

几个任务比平均值更能解释触觉究竟改变了什么:

  • 插座插接:N0-VTLA 为 85%,$\pi_{0.5}$ 为 60%。当插头碰到边缘时,前者会抬起、重新对齐再尝试,后者更容易继续向下压;
  • 电路板插接:N0-VTLA 达到 25%,ACT 和 $\pi_{0.5}$ 都是 0%;
  • 塑料瓶直立:N0-VTLA 为 30%,两个基线均为 0%。模型通过连续调整夹爪开度避免把柔软空瓶直接提起;
  • 纸箱折叠:成功率为 20%,阶段进度分为 37.2;$\pi_{0.5}$ 的成功率为 5%,进度分为 19。即使未完成,触觉策略通常也推进到了更深阶段。

论文还在相同观测和相同采样噪声下做了触觉反事实比较。去掉触觉后,动作路径在自由空间几乎不变;在牢固接触和抓取时刻才明显分离,而且保留触觉的路径成功。这比单纯说“触觉有帮助”更有解释力:它显示新通路主要在接触关键时刻改变动作,而不是普遍扰乱运动。

模拟结果:总体提升明显,但双臂任务仍是短板

模拟评测分为 8 项 UniVTAC 任务和 12 项 NeoSim 任务,每项策略使用 100 条示范训练。

评测集 N0-VTLA 最强对比方法 差值
UniVTAC(8 项) 83.1% InternVLA-A1:67.1% +16.0 个百分点
NeoSim(12 项) 50.8% $\pi_{0.5}$:45.8% +5.0 个百分点
两套合计(20 项) 63.8% $\pi_{0.5}$:44.0% +19.8 个百分点

其中,UniVTAC 的插孔与插管任务分别达到 95% 和 99%,抓取分类达到 100%。

不过,NeoSim 内部的单、双臂差异非常明显:4 个单臂任务平均成功率为 73.8%,8 个双臂任务下降到 39.4%。虽然它仍高于大多数对比方法,但这说明跨形态统一动作空间并没有消除双臂协调的难度。

还有一个应谨慎解读的点:项目主页和摘要所说“20 项模拟任务平均 63.8%,对比 44.0%”,是把 8 项 UniVTAC 与 12 项 NeoSim 汇总后的总体平均;如果只看更难的 NeoSim,提升是 50.8% 对 45.8%。两种说法都正确,但回答的是不同范围的问题。

ALTER 到底带来了多少提升

ALTER 在毛巾折叠、背包整理和纸箱折叠三个真实长程任务上比较了五种策略:只用示范监督微调的 $\pi_{0.5}$ 与 N0-VTLA、采用 $\chi_0$ 阶段优势监督的 $\pi_{0.5}$、两种骨干分别使用 ALTER 的结果。

方法 毛巾折叠 背包整理 纸箱折叠
$\pi_{0.5}$-SFT 40% 20% 5%
N0-VTLA-SFT 50% 35% 20%
$\pi_{0.5}+\chi_0$ 80% 65% 55%
$\pi_{0.5}+$ALTER 90% 75% 60%
N0-VTLA+ALTER 95% 80% 75%

ALTER 并不只对触觉模型有效。即使使用视觉为主的 $\pi_{0.5}$ 骨干,它也把三项成功率提升到 90%、75% 和 60%。但在相同离线学习程序下,N0-VTLA 仍然分别领先 5、5 和 15 个百分点,说明触觉预训练带来的优势没有被后续离线强化学习抹平。

N0-VTLA+ALTER 每小时成功完成毛巾折叠、背包整理和纸箱折叠的次数分别为 43、15 和 30。这比只看成功率更接近部署价值,因为长程任务的单次耗时不同。

这篇论文真正证明了什么,又没有证明什么

把三篇内容合起来,N0-VTLA 给出了三层相互呼应的证据。

第一层是表示证据:潜在 token 在约 32 个候选中以 92.3% top-1 找到对应未来触觉,明显高于当前触觉编码的 57%,说明 $z$ 不只是复制现在。

第二层是行为证据:触觉反事实路径只在接触关键时刻明显分叉,真实插接、柔性瓶抓持和失败重试也呈现出符合触觉控制直觉的行为变化。

第三层是任务证据:真实机器人平均成功率从强基线的 29.4% 提升到 47.2%,20 项模拟总体从 44.0% 提升到 63.8%;再加入 ALTER 后,三个长程真实任务达到 75% 至 95%。

但仍有几条边界需要保留:

  • 论文定义了省略第一阶段监督的 free-latent 变体,却没有给出完整的下游任务级对照表,因此“三阶段中的每一步分别贡献多少成功率”还没有被充分拆开;
  • NeoData 的总小时数、回合数和平台占比未在本报告数据卡中展开,训练硬件和吞吐也没有公开,外部复现成本仍难估计;
  • 下游适配采用一项任务一个策略,并非一个策略零样本完成所有真实任务;
  • 触觉传感器以凝胶形变间接反映接触,不等于直接测得真实力;潜在 token 更不是可解释的物理方程;
  • ALTER 当前只在三个长程真实任务上验证,是否能稳定扩展到更广泛的操作类型,论文也将其列为未来工作。

这些限制并不否定结果,反而帮助我们准确理解这项工作的落点:它不是已经解决所有接触操作的终极机器人模型,而是给出了一条相对完整的路线——如何规模化学习触觉、如何把预测触觉接到 VLA、又如何利用部署失败继续改进策略。

下篇小结:从“看见世界”走向“预判接触,再从失败中更新”

N0-VTLA 最值得关注的,不是把模型名字从 VLA 扩成 VTLA,而是它把两个长期分散的问题接了起来。

在单次动作生成内部,模型不满足于读取当前触觉,而是预测下一段动作将造成的接触变化,让动作专家提前利用这份潜在结果。

在多次部署之间,ALTER 又不满足于只收集更多成功示范,而是从掉落、纠正和恢复中比较“哪个状态更接近完成”,把不完美经验转成正负优势条件。

前者让机器人在接触发生时不再只会被动反应,后者让机器人在失败发生后不必把整条轨迹扔掉。

从这个角度看,这篇论文真正想建立的是一种更接近现实操作的学习闭环:动作之前预判接触,动作之中根据接触调整,动作失败之后继续从部署经验中学习。

点赞收藏
// 评论0
0 / 500
还没有评论,快来抢沙发