PARTS 框架:子任务级 RL 微调,双臂任务成功率 32%→61%
Sichang Su · hf · 2026-09-22
- 问题:预训练机器人策略能完成长程任务的大部分,却总在少数关键子任务上失败;补全任务演示做 SFT 成本高,纯稀疏奖励的 RL 微调难以解决长程任务。
- 方法:提出 PARTS(Policy Adaptation with RL on Targeted Subtasks),把训练集中在瓶颈子任务:冻结的预训练策略提供常规动作,agent 生成的选择器与成功验证器激活残差修正并给出局部奖励;在线 RL 结合按成功率加权的重训练,逐轮重部署采集经验。人类仅在初始化时标记瓶颈、必要时物理复位。
- 结果:在双臂 YAM 与单臂 Franka 任务上,完整任务成功率分别从 32%→61%、50%→95%;同等真实 rollout 预算下比现有方法高 25 个百分点以上,人工参与更少。
「具身」频道最新
- 用 Backplane「提示词造出」任意扩展卡,网友呼吁扩展口回归标配 — _Stocko_ · 2026-11-12
- CoRL 联合主席忆 2021 展区仅三张桌,对比 2026 规模感概行业巨变 — Ed__Johns · 2026-11-12
- keerthanpg:机器人学家仍不接受苦涩教训,CoRL 现场五阶段哀伤 — keerthanpg · 2026-11-12
- SynthICL:纯合成数据训练,单演示泛化 16 项真实操作任务 — Ed__Johns · 2026-11-12
- 8 小时、$94 API 费用:Claude 给机器狗装上激光雷达和大脑 — chrismatthieu · 2026-11-12
- 优必选向永达汽车售 400 台 U1 Pro 仿生人形机器人,约值 6800 万元 — CyberRobooo · 2026-11-12