微软新研究：弱模型相减提取能力，8B 学生模型反超专家
theomitsa · x · 2026-08-02
微软近期发表的一篇新论文提出了一种全新的后训练与蒸馏思路，旨在解决当前前沿学生模型缺乏更大教师模型可借鉴的瓶颈。
核心方法是不再依赖庞大的教师模型，而是取两个较小的弱模型（例如 4B 的 RL 模型与其未经 RL 的基础模型），通过计算它们 logits 的差值，来精准分离出需要增强的“能力方向”。
将这一信号反馈给 8B 的学生模型后，该模型在数学和代码任务上的表现，最终超越了原本指导它的领域专家模型。这种做法以极低的算力成本成功激发了模型的潜在能力，对从事蒸馏与强化学习的研究者很有启发。
「研究」频道最新
- Optuna 作者秋叶哉：花3亿日元调2个超参的时代，BO/HPO 还有何用武之地 — Stefania_druga · 2026-10-16
- 学者争论：AI 将超越人类做科学，欧洲躲不开只能用别人的 — teortaxesTex · 2026-10-16
- 上海 AI Lab 提出 SERO：用可执行 Oracle 续跑训练长程智能体强化学习 — Shanghai-AI-Laboratory · 2026-10-16
- 清华联手高德发布 OmniVerifier-C1：把二元验证器升级为细粒度打分 — Bowei Liu · 2026-10-16
- 阿里开源 MAI-Gym：移动与桌面 GUI Agent 评测加强化学习训练一体化平台 — Tongyi-MAI · 2026-10-16
- 北大发布 SimForcing：把仿真运动先验蒸馏进真实机器人世界模型 — PekingUniversity · 2026-10-16