Heave-Ho: Decentralized Long-Horizon Multi-Humanoid Collaboration
Ting-Hsuan Chen, Siheng Zhao, Han Jiang, Qi Pan, Louison Lu, Jiaheng Luo, Henghui Bao, Yiyu Chen, Quan Nguyen, Yue Wang
cs.RO, cs.CV, cs.LG
2026-11-17
冻结人形跟踪模型加共享残差策略,机器人团队只凭本地观测与语音口令协作,两台训练扩展到十台,真机 92/100 成功。
单个人形机器人搬不动桌子、床架这类大件。多机器人协作的主流方案是集中式:一个策略读全队观测,输出所有机器人的动作。这条路线有两个结构性代价:输入和联合动作空间随队伍规模增长,固定维度的网络每加一台机器人就要改结构、重训;推理时汇聚全队观测又依赖机器人间通信。
Heave-Ho(USC 与 VinMotion)走严格的去中心化路线:每台机器人只看自己的本体感知、一小段自己的参考动作和物体规格,伙伴的影响只通过共享物体传来的力到达,任务全程零网络报文。代价是同步变难:晚一拍抬起会让物体倾斜,单独迈一步会把伙伴带倒。
两层结构,靠一个团队技能词表(lift、put down、各方向迈步、原地旋转)连接。
低层是残差式后训练。冻结人形基础跟踪模型 SONIC 做 base policy,提供平衡和迈步;在它上面训一个全队共享参数的残差策略,只学「怎么对物体用力、怎么和伙伴分担负载」。用 MAPPO 训练:critic 在训练时读全队观测,actor 在执行时只读本地观测。训练在 Isaac 仿真中用 4096 个双机器人并行环境完成。
几个设计直接决定可扩展性:
参考动作来自真人双人作业视频重定向加逆运动学程序化生成,以物体长宽高和质量为条件,握距、蹲深、伙伴间距随之调整。
高层由 leader 机器人(或人)承担。微调的 Qwen3-VL-2B(LoRA)看 leader 头相机图像和任务指令,在每个技能完成后输出词表里的下一个 token。同步机制把「做什么」和「何时做」拆开:做什么由 leader 定,何时做固定在一个共享的粗粒度时间网格上。leader 用扬声器把技能 token 说出,每台 follower 机载麦克风识别后把技能排到网格下一格,leader 按预期声学延迟偏移自己的启动。网格比声学延迟的波动更粗,识别时刻的小差异不改变启动槽位。leader 是可分配的角色,人可以听口令入队当 follower,也可以接管当 leader。
配套发布的 HH-Bench 有 12 个协作任务、支持 2 到 10 台的队伍,涵盖抬运、肩扛、拉、推、交接、精确定位,规则禁用动作捕捉和机器人间通信。
低层控制器在 12 个任务上平均(每任务 3 个种子 × 512 支队伍):
| 控制器 | 仿真成功率 |
| Pure SONIC(基础模型直接跟踪) | 0.22% |
| 其余基线与消融的最好成绩 | ≤ 28.56% |
| Heave-Ho(完整) | 94.41% |
完整方法机体平均位置误差 18.62 cm、物体误差 19.59 cm。纯 SONIC 动作跟踪得最好,但不会对物体用力、不会分担负载,几乎全部失败;共享 actor 换成每台各自训练的独立 actor,成功率掉到 22.05%。
高层规划器,5 个长程任务各 10 次:
| 决策者 | 平均成功率 | 单次决策延迟 |
| GPT-6 Astra(zero-shot) | 42%(21/50) | 6.46 s |
| CHORUS(微调后各自执行) | 12%(6/50) | 78 ms |
| Heave-Ho planner | 86%(43/50) | 52.5 ms |
| 人类操作员(上界) | 98%(49/50) | 未报告 |
CHORUS 每台机器人独立推进自己的动作,没有对齐机制,除耦合短暂的箱体交接(6/10)外全败。Heave-Ho planner 在单张 RTX 4090 上单次决策 52.5 ms、显存 5.3 GiB,比走 API 的 GPT-6 快约 120 倍。
真机(Unitree G1)全部任务合计 92/100 成功,最难的楼梯搬运 7/10,台阶宽度只容一只脚。2 台训练的策略直接部署到更大或异构队伍:4 台 G1 抬桌、G1+EngineAI PM01+人混编等组合真机 37/40 成功;10 台规模在仿真的抬桌任务上验证。
三个构件可以直接搬用。参数共享 actor 加物体条件化输入,让训练规模和部署规模解耦,集中式路线的重训问题被绕开。冻结 foundation 模型加残差,把最贵的探索(平衡、迈步)交给现成模型,RL 只学交互增量。语音加时间网格的同步不依赖网络栈,还天然把人纳入协作:人会说话也会听话,这是无线协议给不了的接口。
边界也清楚:技能词表小、步长转角固定,它解决的是「团队搬运」这一族任务,不是通用协作操作。
论文自认两条:同步依赖 follower 听清 leader,要求环境相当安静、拾音可靠;给 planner 训新任务要靠遥操作人工采数据(真机每任务 24 条 episode),费时。
论文没回答的: