八任务开发成功率91.1%,网线十天仍无法离线完成

PyRUA-REAL: Robot Exploration and Adaptive Learning through RSI in the Real World

Qiang Wang, Jianxin Bi, Shulong Jiang, Ruiyang Si, Wenbo Huang, Kaiqi Chen, Jiaxin Li, Liyun Li, Xuanyi Li, Daquan Zhou

cs.RO

2026-11-05

PyRUA-REAL把真机探索写成冻结技能,八任务开发期成功率91.1%,仿真等权84.42%对照50.35%。

这篇在解决什么

大模型能把操作说明写成机器人程序,失败再改代码,权重保持不动。下一项任务和下一次部署,常常还得把同一个模型叫回来重新决策。

PyRUA-REAL 在双臂 Franka 上做这件事。编码 agent,即写代码、看反馈、再改代码的代理,自行实验,把交互存成记忆和技能,再冻成运行时不调用语言模型的程序。标定与控制器事先都不给。

方法

人给出目标,外加一份任务规格,写明物体、位姿和变体要覆盖的范围。Researcher 管路线:规定每轮实验的目标、停止条件和该参考的旧经验。做完、假设失败,或连续几轮没有进展,都可以停。Engineer 在轮次内写代码、上机、诊断,局部问题只测相关步骤。回合结束由管路线的角色决定续做或转向。

经验三层分别是工况事实、失败与尝试的记录、任务程序和原语函数。技能要在当前环境重测后才能留下。冻住的程序用实时观测做感知、控制和恢复,可以调用本地的 SigLIP 与 SAM,不再请求语言模型。

结果

八项真机任务(含网线的在线辅助)开发期平均成功率 91.1%。这个数把改码试次合在一起,不能当成冻结后的可靠度。七项可以不调用模型跑完,成功率从 91.67% 到 100%。网线插入除外:无在线 agent 约 240 小时仍为 0;接入 GPT-6-Astra Medium 做阶段间决策,约 15 小时后才成功,开发期成功率 58.82%,脚本 0/4,在线流程 10/17。首次成功的时间从约 1.5 小时到约 45 小时。

五块堆叠的周期中位时间从 285.3 秒降到 156.0 秒,图像估计的横向误差从 2.69 毫米降到 0.44 毫米,角度误差从 1.37 度降到 0.25 度。井字棋成功率从 50% 升到 100%,中途回退过;对局加复位从 577 秒降到 535 秒,主因是一串空中路点被收成一次关节运动。汉诺塔先保完成再压缩时间,周期中位从 1402 秒降到 883 秒和 793 秒,全程成功率从 60% 到 100%。

仿真 42 项按五组等权,冻结程序 84.42%,PyRUA-Lean 为 50.35%,直接用模型选动作 22.48%。综合分 88.53,对照 55.26 与 28.97。精细操作 74.00% 对 38.25%,长程 56.00% 对 43.75%,泛化 41.17% 对 43.17%,泛化没有领先。几组评测的种子并未对齐。

对照指标结果
额外审查到下次上机的中位间隔16.9 分钟(40 次)对 3.4 分钟(9 次)
修订反馈四任务五次修订后的留出测试成败 15.3%;状态 45.8%;视频加关节 54.2%
显式变体五类留出场景提升 11.4 到 36.6 个百分点
原语技能库八个新任务均值40.0% 对 21.3%
冻结部署相对在线执行的耗时写代码约慢 4.6 到 5.0 倍,直接选动作约慢 9.9 到 11.5 倍

汉诺塔的审查阶段 45 小时没有确认上桩,改为直接测试后 2.8 小时完成首次插入。把停滞的方案退回管路线的角色后,三例真机的下一次试验都成功。仿真里重估后并不整齐,成功试次从 4/11 到 11/17。

视频加关节的优化用时 25.4 分钟,只给成败是 31.8 分钟。写明变体后,叠碗从 0 到 86.4%,拧螺丝从 9.1% 到 81.8%,交换积木从 68.2% 降到 59.1%。记忆从 53.8% 到 65.2%,开放指令从 14.4% 到 51.0%。技能库使五项变好,按语言分类和玩堆叠玩具各加 50 个百分点,三项不变。

堆叠的在线写代码用了 13.7 分钟,其中 10.6 分钟在等模型。汉诺塔的在线基线都没有在 120 分钟内完成。对比不含开发耗时。

为什么重要

省下的主要是等模型的时间。井字棋和堆叠上,在线写代码大约慢 4.6 到 5.0 倍,直接选动作大约慢 9.9 到 11.5 倍,多出的时间大部分耗在等待。

多一个只能驳回代码的审查者,会让新的真机证据变少。该换掉的是反复改也不动的路线。网线插入还冻不住:脚本 0/4,在线辅助 10/17。一次成功里动作 281.8 秒,检查和决策空隙 220.8 秒,占 502.7 秒的 44%,空隙含人工复核。

整体仍是渐进改进,任务之间差得很远。

局限与存疑

摘要里的 91.1% 容易被读成上线指标。

对照都掺着别的因素。审查先于直接测试,后面的插入可能用到前面的搜索。路线重估伴随着继续探索。变体规格多了一轮试跑。反馈每个条件只有一轮,状态反馈还看得到仿真里的物体真值。基准来自分开评测,种子没有对齐。引言写成 84.82%,正文和图表是 84.42%。

堆叠偏大的回位误差来自选错相机,改对视角后数字下降,动作是否更准没有另测。井字棋里相贴的两环造成误拒,修好检测后同一张图通过,手臂没有动。

模型没想到的办法就不会被改进。仿真里的一般抓取,等人指出 SigLIP 之后才变好。无人介入时,汉诺塔学到把难抓圆盘推到顺手的位置,后来用到井字棋。人的提示会进技能库。论文要求披露这些贡献,但没规定何时介入,也没写回代码的办法。网线任务约十天无代理探索后仍没有冻结程序。

术语

原文与代码

相关论文

全部论文解读