北大联合腾讯混元推 MovieRoll:流式长视频生成延展至 60 秒
Yunyang Ge · hf · 2026-11-17
北京大学、腾讯混元与港科大团队提出 MovieRoll,一个 base-to-distilled 框架,解决流式视频生成在训练时域之外的质量衰减、自生成历史污染与缓存成本增长问题。
关键设计:
- WinTF(Window-wise Teacher Forcing):窗口内双向注意力+对历史的因果访问,分块渐进去噪,建立稳健多步 base 模型。
- HieraKV:分层 KV-cache 压缩,浅层保留完整历史、深层只留 sink+近期历史,缓存内存最高降 78% 且质量反升。
- CuLT-DMD:长自Rollout期间冻结参数、平均局部梯度后更新,用单份计算图完成长Rollout蒸馏训练,得到少步生成器。
- KV 重计算+AnnealCFG 引导退火,将生成扩展到训练时域之外;辅以 FBCA 注意力与 PS-VAE 解码支持流式输出。
结果:在 HeliosBench 上,仅用 ≤15s 视频训练的 MovieRoll-Base 在 30s 生成的质量保持竞争力;蒸馏版在最高 60s 的单/多事件评测中总分领先。
「多模态」频道最新
- UMM-JEPA:用连续表征预测替代离散码训练,统一多模模型理解力大涨 — Yucheng Zhou · 2026-11-17
- 厦门大学联合复旦推 GlyphAtlas:字形图谱分离笔画与布局,场景文字合成更精准 — Luozheng Qin · 2026-11-17
- Google 文档中现「veo-experimental」模型,新 Veo 或在途 — koltregaskes · 2026-11-17
- 3 万个 LoRA 卡到打不开,他用 ChatGPT 写了个 Forge 扩展救场 — Artistic-Account-423 · 2026-11-17
- AI 生成哥斯拉降临东京街头,路人四散奔逃画面逼真 — Careful-Loquat-8117 · 2026-11-17
- AI 视频演绎愤怒如何疏远亲子关系,引发共鸣 — HeyZoyaKhan · 2026-11-17