PDD 蒸馏发布月余即被阿里、NVIDIA 等六家团队采用
ArashVahdat · x · 2026-10-22
- Parallel Decoding Distillation(PDD)作者宣布,该用于加速扩散/流模型的方法 7 月底发布后,已被多个团队采用:阿里对 MiniMax-H3 的加速 LoRA、WorldPlay2 因果蒸馏、FastVideo 的 FastH3 Omni、NVIDIA 的连续扩散语言模型、Amazon 的生成式预测模型,以及 NVIDIA 与 MSR 的参数化学生轨迹扩展。
- PDD 的核心卖点在于极简:仅用单一回归 MSE 损失(1 次学生 + 1 次 detach 教师前向),不需要数据、不需要对抗损失或交替训练、不需要 JVP 或有限差分近似,也无需额外时间嵌入、可训练模块或稳定化技巧;号称 SOTA 质量且支持可变 NFE,并首次把轨迹蒸馏扩展到少步视频生成。
- 配套的 MiniMax-H3 8 步加速 LoRA(rank=64,BF16)已在 Hugging Face 开源,覆盖 FL2VA 与 Ref2VA 两种模式,可在 4/8 NFE 下生成 768p 视频;作者团队表示将很快开源自己的实现。
「多模态」频道最新
- MOSS-Image 生态汇总:33937 角色离线目录与低显存 LoRA 教程 — optimisticalish · 2026-10-22
- 分析师预测 Skydance 与 SpaceX 达成 80-100 亿美元内容交易 — beffjezos · 2026-10-22
- GPT-Image 2 发布半年无对手,Google Nano Banana 2.1 失手 — flowersslop · 2026-10-22
- FIBO 2.0 Edit Turbo 兼做文生图:4 步免 CFG,实测 22 条提示词 — TimeTruth2490 · 2026-10-22
- 「黑客帝国可能成真」:Atlas 世界模型完整穿越演示曝光 — XRarchitect · 2026-10-22
- Text2Room 作者 Lukas Höllein 博士答辩通过,已加入 Apple — angelaqdai · 2026-10-22