LFM2.5-2.6B 后训练配方:SFT+RL+蒸馏四步走
helloiamleonie · x · 2026-09-25
Leonie 拼回 LFM2.5-2.6B 后训练的完整拼图:1) 经典 SFT,加入 agent 轨迹数据与 antidoom 训练;2) SFT+RL 配方训练多个专项 teacher,每个对应一项技能;3) 用 MOPD(多域 on-policy 蒸馏)把所有技能蒸馏回单一 checkpoint;4) 通过 agentic RL 微调模型对 agent harness 的适配。基准显示 2.6B 模型可与 3 倍大的 Qwen3.5-9B 竞争。
所属事件:Liquid AI 发布 LFM2.5-2.6B 并公开端侧 Agent 后训练配方(11 条相关)→
「模型」频道最新
- 800 美元二手 3090 主机本地跑 DeepSeek 4.1,2 量化仅 2-3 token/s — LankyGuitar6528 · 2026-11-11
- 谷歌开源 Harness²:能自己改写系统配置的智能体框架 — Arindam_1729 · 2026-11-11
- 开发者吐槽 Codex 桌面版质量差,弃用客户端改走 CLI — tekbog · 2026-11-11
- 旧模型发布前「变笨」?网友调侃:其实是实验室开派喝醉了 — glcst · 2026-11-11
- Grok Bot 新增隐藏指令检测:发现 prompt 注入即警告并拒绝执行 — XFreeze · 2026-11-11
- 上海创新院开源 Nex-N2.6:321B 多模态智能体模型 — victormustar · 2026-11-11