东北大学联合阿里提出 SCOPED:技能解耦蒸馏统一 VLM,跨能力干扰更低
Yuqi Xiong · hf · 2026-10-16
东北大学与阿里巴巴团队提出 SCOPED(Skill-Decoupled On-Policy Expert Distillation),解决强化学习联合优化异构视觉目标时,VLM 出现跨能力梯度冲突的问题。
- 问题:直接奖励优化会把专业知识与 reward-hacking 偏差纠缠;独立训练专家可缓解冲突但难以整合。
- 方法:分别为不同能力训练专家,通过奖励引导的反思提取显式技能,再在 on-policy 蒸馏中用这些技能指导专家监督,让统一的学生模型内化程序性知识,而推理时不暴露显式技能。
- 结果:在 8 个多模态基准上一致超过骨干模型与混合能力 RL;进一步分析揭示了独立习得能力整合过程中的干扰机制。
「多模态」频道最新
- 美团 LongCat 发布 WorldCast 基准：320 案例考多步世界状态预测 — meituan-longcat · 2026-10-16
- 三份资源速通 FLUX 3 图像生成模型 — ariG23498 · 2026-10-16
- 网友让 Opus 5.5 造一辆新特斯拉 Roadster,结果出人意料 — TAbrodi · 2026-10-16
- Midjourney v8.2 蓝色水墨风生图实测，附 sref 风格码 — azed_ai · 2026-10-16
- 「来自异次元的 AI 电视」：机器人给吉娃娃做美容的名场面 — BotLordBotflix · 2026-10-16
- 仅 108M 参数的文生图去噪模型 Surjo-Image-Preview 开源 — Consistent-Rule-3720 · 2026-10-16