京东 Any-OPD 实现异构图像模型跨架构蒸馏
jingdong1 · hf · 2026-08-05
京东研究团队提出 Any-OPD 框架，解决了流匹配模型之间在架构不匹配情况下的策略蒸馏难题。
技术背景与挑战
- 传统的策略蒸馏要求师生模型具有相同的 VAE 潜空间、匹配的架构和共同的时间步网格。
- 当最强的教师模型和待部署的学生模型来自不同家族时，标准的蒸馏方法会失效：教师潜空间无法作为目标，逐像素损失会导致模糊或发散。
Any-OPD 解决方案
- 将教师模型纯粹视为黑盒采样器，通过一个冻结的、与模型无关的视觉表征空间连接两个模型。
- 通过匹配连续噪声水平而非步长索引来恢复轨迹对应关系。
- 引入短暂的锚定阶段，确保策略梯度测量的是样本质量而非领域差异。
实验效果
- 将 12B 的 FLUX.1-dev 蒸馏到 2.5B 的 SD3.5-Medium 中。
- 学生的 PickScore 从 0.846 提升至 0.884，HPSv3 从 9.12 提升至 10.97。
- 仅用五分之一的参数量便媲美了教师模型的质量。
「多模态」频道最新
- 实测AI Agent自主制作纪录片：从脚本到剪辑全自动 — illscience · 2026-08-05
- 开源社区48小时极限整活：MiniMax视频模型降至5GB显存 — ostrisai · 2026-08-05
- 阿里 Qwen3.8-Max 登顶图生网页榜亚军 — rohanpaul_ai · 2026-08-05
- Minimax H3 生成《宋飞正传》交叉剧视频 — Time-Ad-7720 · 2026-08-05
- AI 脑洞视频：老友记与宋飞正传梦幻联动 — Time-Ad-7720 · 2026-08-05
- ComfyUI 性能优化：升级 CUDA 13 与避坑指南 — ayakitodev · 2026-08-05