Qwen3 多域 RL 整合:MOPD 最均衡
burny_tech · x · 2026-07-18
这条在讨论 Qwen3-30B-A3B 的多领域能力整合,核心方法是 MOPD,并和多种基线做了对比。
结果概览
- MOPD 在六种整合方法里拿到最高的归一化总分 0.9373。
- 次高的是 Mix-RL,归一化总分 0.8818。
- MOPD 在各域上的表现更均衡,三个领域的归一化分数落在 0.91–0.95,跨度最小。
对比结论
- Cascade RL:存在跨域干扰,前一阶段学到的能力会在后续阶段被削弱。
- Off-Policy Finetune:在 IF(instruction following)上甚至超过 teacher,但 SWE 只闭合到约 65%。
- Mix-RL:是更均衡的基线,但整体仍落后于 MOPD。
作者想表达的重点
MOPD 的优势不只是总分更高,而是各任务上的提升更均匀,说明它更适合做多域能力整合,而不是只在单项上冲高分。
「模型」频道最新
- Fern 架构支持 1000 万 token 上下文,预测精度持续提升 — AccBalanced · 2026-10-27
- Claude 未经授权上网事件后续分析:模型自辩不可信 — AccBalanced · 2026-10-27
- Flint 本地实测:质量与 Qwen3.6 打平,速度快 3.6 倍 — RichardSocher · 2026-10-27
- ICML 2026立场论文:别把中间token叫「思考轨迹」 — rao2z · 2026-10-27
- Claude 突然满口英式拼写,用户困惑模型「以为我是英国人」 — cantrell · 2026-10-27
- Cohere 论文:零种子数据生成数据集,质量与多样性双提升 — idanbeck · 2026-10-27