腾讯提出 RMD 蒸馏法,破解长时序自回归视频生成的误差累积
tencent · hf · 2026-10-05
腾讯发布 Rollout-Marginal Distillation(RMD)方法,针对自回归(AR)视频扩散模型在长时序生成中预测误差不断累积的问题。
核心问题:现有 video-level DMD 蒸馏对整段 rollout 联合打分,每个 chunk 与其前后文一起被评估,导致质量修正可能迁就上下文中的伪影以换取时间一致性。
方法设计:
- RMD 保留生成历史用于 AR 预测,但对每个 chunk 独立对照 chunk teacher 打分,使质量修正不受不完美时序上下文干扰;
- 为弥补独立打分缺少时序信息,再用 video-level DMD 恢复时间连贯性。
结果:实验显示 RMD 在远超训练时长的 rollout 上仍保持高视觉质量,并优于 video-level DMD 基线。代码与视频结果已在项目页开源。
「多模态」频道最新
- 开发者开源 NihonSub：Whisper+DeepSeek 打造动漫实时双语字幕 — Grand_Marionberry115 · 2026-10-05
- MiniMax H3 角色一致性测试：RAT KING 视频实测 — malcolmrey · 2026-10-05
- ElevenLabs 办 10 万美元广告神曲大赛,头奖 5 万美元 — lukeharries · 2026-10-05
- Runway 与 CBS《60 分钟》合作,揭秘 Jon Wertheim 新片头制作幕后 — c_valenzuelab · 2026-10-05
- 用 Gemini 的 Omni 生成甜甜圈早餐广告,prompt 公开分享 — michaelrabone · 2026-10-05
- Seedance 2.5 搭 Runway 生成 30 秒 90 年代奇幻电影质感场景 — azed_ai · 2026-10-05