ScienceRSI 跨规模迁移实验:小模型专家让 27B 提升 6.7 个百分点
jiqizhixin · x · 2026-11-04
机器之心发布 ScienceRSI 预印本解读,研究小型科学专家模型能否为其他模型提供有效训练信号。
- 框架围绕专业化、验证、迁移、复用四环节组织:不直接照搬专家答案,而是将专家贡献对照共享的科学要求逐项校验
- 专家模型在计算、机理解释、证据判断上「局部更强」的回答,仅在目标模型自身较弱的环节提供引导;任务奖励与筛选后的专家反馈共同训练目标模型
- 实验覆盖同等规模整合(4B→4B)与跨规模迁移(4B→8B、8B→27B,目标为 Qwen3.5)
- 在独立的 8B→27B 迁移实验中,七个基准的非加权平均分从 87.3% 升至 94.0%,提升 6.7 个百分点;27B 扩展更换了模型代际,属于独立设定而非同一轮递归
「研究」频道最新
- TLAPS-Bench 发布:265 个真实系统证明目标,GPT-6.1 Sol 仅解出 44.3% — tianyin_xu · 2026-11-04
- StreamDuo 让游戏解说 AI 看懂没玩过的游戏,实体召回提升近 30% — Zixian Gao · 2026-11-04
- Redwood 研究员析递归自我改进:AI 研究自动化与失控加速可以拆开看 — deanwball · 2026-11-04
- UMAP 0.6 引入 Adam 与动量布局优化器,0.7 将设为默认 — leland_mcinnes · 2026-11-04
- UMAP 0.6 预览版登 PyPI,重大更新可提前试用 — leland_mcinnes · 2026-11-04
- 在玻璃上训练微观形变,纯靠光实现图像分类 — louisvarge · 2026-11-04