多域 on-policy 蒸馏：让一个模型同时学多种技能
helloiamleonie · x · 2026-09-25
Leonie 介绍 LFM2.5 训练中的 MOPD（multi-domain on-policy distillation）：把 on-policy 蒸馏扩展为多个 teacher 并行，学生模型可以同时从各领域专家 teacher 学习不同技能，而不必分阶段训练。这是该线程后训练配方中把多个专项教师的能力合并回单一 checkpoint 的关键步骤。
所属事件:Liquid AI 发布 LFM2.5-2.6B 并公开端侧 Agent 后训练配方(11 条相关)→
「研究」频道最新
- 教授用纯 NumPy 从零搭建交互式神经网络教学笔记本 — GeostatsGuy · 2026-11-11
- 新 benchmark Continual-ARC:主流 agent 都学不会经验,9B 模型微调可以 — Med1_Ai · 2026-11-11
- Science 子刊：好的对话呈现'粉噪'式的语义波动模式 — _akpiper · 2026-11-11
- 研究：近半数 STEM 博士论文用 AI 写，仅 4.7% 主动披露 — paulnovosad · 2026-11-11
- AlphaGenome 2 商业 API 上 Google Cloud 私测，权重承诺未来开源 — anshulkundaje · 2026-11-11
- 斯坦福 DyCraft:智能体分步生成 4D 动态场景,降低物理错误 — StanfordUniversity · 2026-11-11