把机器人任务写成代码,VLA 长程成功率 17% 升到 48%

Self-Evolving Coding Agents: From Digital Programs to Physical-World Intelligence

Hongcheng Gao, Jingjing Zhou, Zelin Zheng, Shijia Ge, Jay Zhu, Yazhe Wang, Jianshu Zeng, Xuan Shangguan, Di Wu, Lingyu He, Zhiqi Jia, Sihang Wu, Xiao He

cs.RO

2026-09-28

HexaFuture 把机器人任务状态与执行写成代码,同一 VLA 当工具调用,长程成功率最高提升 31 个百分点。

这篇在解决什么

VLA(vision-language-action,把图像加指令直接映射成机器人动作的模型)有个结构性短板:任务要求、执行进度、失败恢复全部隐式编码在动作序列里,接口上查不到,也改不了。论文先给测量:QwenGR00T 在 LIBERO 上训练时把指令整个遮掉,成功率 92.3%,带指令版本 96.2%,单套件最多差 6 个点。场景决定任务时,策略拟合的是场景到轨迹,谈不上理解指令。已发布的 VLA 在视角或初始状态小扰动下成功率掉一半以上,物体布局一变接近零,加数据加容量都救不回来。

长程任务把短板放大。面包进了烤箱、烤串还在盘子上,VLA 照样关门,之后烤串再也放不进去。action chunk 加一个停止信号就是全部接口,表达不了「两个食材都在里面」这个条件,也表达不了失败后怎么恢复。

方法

Physical Coding 让物理任务的状态和执行都变成可执行代码,观察、行动、反馈共享同一个介质,就像软件 coding agent 工作在代码仓库里。

两个设计选择直接由「trace 要拿去训练」推出:验证器不能是提出动作的模型自己,否则等于它在确认自己的错误;编辑会被下一版继承,接纳门槛必须硬。

结果

RoboCasa365 上动作模型固定为 XR-1,两个 coding agent 都由 GPT-5.6-Sol 驱动,每个任务 50 个种子:

设置Atomic-SeenComposite-SeenComposite-UnseenOverall
XR-1 原生78.0%54.8%34.3%56.6%
HexaAnything80.9%61.5%38.3%61.1%
Codex81.7%59.8%34.1%59.5%

Codex 在 Composite-Unseen 上不比裸 XR-1 好,说明收益来自状态谓词与恢复分支,不是「会写代码」本身。三个 Composite-Unseen 任务各跑 100 个种子:LoadKebabSandwich 17%→48%,PortionHotDogs 22%→37%,WaffleReheat 53%→70%。对照组给原生 XR-1 把动作预算翻倍,PortionHotDogs 只有 21/100(标准设置 22/100),排除「预算不够」的解释。

模型演化:Harness 返回的 1010 条 trace 加 9.3K 条 VQA(占 178.6M 训练 token 的 38.8%)微调 Qwen3.8-27B,得到 HexaModel v0.1。放回同一 Harness 后四个 split 全超底座:Composite-Unseen 37.3%→39.5%,整体 60.5%→61.7%,比同框架里的 GPT-5.6-Sol(61.1%)高 0.6 点。

工具演化(RoboDojo,任务与评估器固定,只改工具代码):Fold cloth 0%→80%,Pour vase 40%→100%,Press by number 0%→100%,权重全程不动。过程不单调,Pour vase 第一轮修改先从 40% 掉到 0%。

PhyBench 是论文自建的 Isaac Sim 实验室:弹簧刚度、重力加速度、耦合振荡器频率三个实验,成功线分别是 15%、3%、10% 相对误差。HexaAnything 配 Opus 5.5,三项误差 1.3%、1.0%、1.7%,十次运行全部有效;换 Qwen3.8-Max,有效运行只剩 5/10、3/10、3/10。真机在双臂 AgileX 平台上进行,按摘要陈述,agent 自主完成物理实验与多数桌面任务,常快于已发表结果。

为什么重要

开头 92.3% 对 96.2% 这个测量,单独拎出来就有价值:LIBERO 类 benchmark 的高分证明不了模型在跟随指令,这类评测的含金量要重新掂量。

工程上最实用的是 Harness 结论:不重训、不换 VLA,把它包进带状态谓词和恢复分支的代码接口,最难的长程个案能从 17% 提到 48%。已有 VLA 资产的团队可以把它看作一层低成本的增量改造。HexaModel 那组数字是「执行经验变成训练数据」闭环的第一份证据:开源 27B 在同一框架里超过 GPT-5.6-Sol,虽然只有零点几个点。

幅度上要泼冷水:模型层面的提升是渐进的,实验部分更接近一份带证据的路线图,一半价值在框架与测量。

局限与存疑

作者自己划了边界:四个演化目标里只验证了 Harness、工具、数据到模型这一段,模型、表示、环境、本体的协调演化明确列为 future work。HexaModel 只训一个 epoch,提升 0.2 到 2.2 个点,数据放大后是否持续增长没有验证。

Fold cloth 的评估要挤水分:像素由人工操作员挑选,数字衡量的是工具与接口而非自主感知;作者补做了去掉特权信息的评估(开发种子 3/5,留出种子 4/5),seed 3 在所有版本上都失败。PhyBench 是自建 benchmark,没有外部系统对照。整套接纳流程(独立 evaluator、回归测试、canary rollout)的计算成本论文没有披露,搬到真机上这笔开销未必小。

术语

原文与代码

相关论文

全部论文解读