PRFL 细节:用成品视频打标加噪训练奖励模型,无需逐步标注
gowthami_s · x · 2026-10-17
作者解释 PRFL 中奖励模型的训练方式:奖励标签仍来自人工评分的成品视频,但对成品加随机 timestep 的噪声,训练打分器预测同样的好/坏运动质量标签,因此不需要逐步标注。
训练流程:先冻结打分器,rollout 生成器,在某个采样的去噪步反传梯度,并将奖励更新与 SFT 交替进行(SFT 起稳定作用)。
所属事件:PRFL:潜在空间过程奖励反馈加速视频生成对齐(5 条相关)→
「多模态」频道最新
- YouTube Music 上线 AI 音乐标签,区分全生成、部分生成与真人作品 — lmoroney · 2026-10-17
- AI 网红人设工作流:Codex+CapCut Web 让一个角色贯穿整个 campaign — alifcoder · 2026-10-17
- Pika 携手 OpenAI 把全套视频创作工具直接塞进 ChatGPT — HeyToha · 2026-10-17
- 用 Gemini 4 挖 Grace Hopper 口述史,五段趣闻做成视频 — DynamicWebPaige · 2026-10-17
- MOSS Image 编辑能力上手:一眼学会独眼人概念,AI Toolkit 已支持训练 — ostrisai · 2026-10-17
- 视频播放中实时打标签:篮球投篮轨迹被逐帧自动标注 — LinusEkenstam · 2026-10-17