PRFL 细节:用成品视频打标加噪训练奖励模型,无需逐步标注

gowthami_s · x · 2026-10-17

作者解释 PRFL 中奖励模型的训练方式:奖励标签仍来自人工评分的成品视频,但对成品加随机 timestep 的噪声,训练打分器预测同样的好/坏运动质量标签,因此不需要逐步标注。

训练流程:先冻结打分器,rollout 生成器,在某个采样的去噪步反传梯度,并将奖励更新与 SFT 交替进行(SFT 起稳定作用)。

所属事件:PRFL:潜在空间过程奖励反馈加速视频生成对齐(5 条相关)→

原文链接 →

「多模态」频道最新

更多「多模态」频道 AI 资讯 →