KAIST 推出 FRED:自蒸馏单步去噪表征,机器人 WAM 真机任务大幅提升

coallaoh · x · 2026-10-24

KAIST 与 RLWRLD 团队提出 FRED(Future REpresentation learning via self-Distillation),针对近期一类 World Action Models(WAM)的改进:这类模型从视频扩散模型单步去噪的隐状态生成机器人动作以提升推理效率,但未来视频表征质量欠佳。FRED 通过自蒸馏,以真值未来观测中提取的表征为目标,训练模型从噪声中单步预测更优的未来表征,并以历史观测作为时间上下文条件。在多样真实操作任务上,FRED 一致超越同类 WAM,在零样本泛化的长程与域外任务上收益最大,人到机器人技能迁移显著改善——对训练数据中不存在、仅由人类演示的任务达到 50.0% 成功率。论文、代码与 checkpoint 均已开源。