阶跃星辰提出 StepX-OPD:多教师在线蒸馏与少步采样联合训练,降本提效
stepfun-ai · hf · 2026-11-07
阶跃星辰(StepFun)与西湖大学发布论文 StepX-OPD,重新思考文生图扩散模型的多教师在线蒸馏。
- 传统流程分两阶段:全步模型先通过多教师在线蒸馏积累能力,再作为固定教师做步数蒸馏;每个全步模型在压缩后得分都会下降,导致第二阶段无法从第一阶段结束处继续
- StepX-OPD 将两阶段合并:一个学生模型在学习各项能力的同时就学会少步采样,冻结的教师专家在其自身 rollout 实际经过的状态上监督,而非在从未走过的长轨迹上监督
- 由于 rollout KL 权重的速度失配在接近干净端最严重,额外在 rollout 的低噪声部分上回归学生速度
论文称该联合训练方式优于顺序方案,同时降低训练成本。
「多模态」频道最新
- Premiere Pro 测试版上线 Generative Remove,可时间线追踪并 AI 抹除物体 — Mr_AllenT · 2026-11-07
- 手机拍摄 + Echo-3 即可高保真重建任意空间场景 — risingodegua · 2026-11-07
- AI 视频逐帧转描工作流:LTX 2.5 LoRA + SAM3 + BiRefNet 分层输出 — PurzBeats · 2026-11-07
- 开发者自制 H3 图生视频 ComfyUI 工作流:3090 上 20 秒视频跑 22 分钟 — EQLMonk · 2026-11-07
- Flux Max 生成螳螂虾对战白鲨翻车,其他画面很电影感 — flowersslop · 2026-11-07
- AI 生成「猫审批转账」名场面,Seedance 2.5 新玩法 — azed_ai · 2026-11-07