研究称机器人策略预训练提升可靠性但可能限制微调上限

Zhanyi 等人（与 Shuran Song 合作）发布论文「Beyond Validation Loss」，探讨预训练科学中被忽视的问题：什么才是好的预训练模型、如何评估、何时停止训练以及怎样为下游微调选择起点。研究发现，对生成式机器人策略继续做监督预训练能提升任务执行的可靠性，但会牺牲覆盖度，且验证损失最低的 checkpoint 未必是下游微调的最优起点，可能损害后续微调的上限。

2026-11-04 ~ 2026-11-05 · 2 条相关