Liquid AI新模型采用多领域专家蒸馏,回顾前沿模型蒸馏策略
helloiamleonie · x · 2026-08-07
Liquid AI 最新发布的 LFM2.5-2.6B 模型在后训练阶段采用了 MOPD(每个领域一名专家教师)策略进行蒸馏。借此机会,作者回顾了当前前沿大模型使用蒸馏技术的方式与演进脉络,并引出了相关的系统性教学文章。
「研究」频道最新
- 研究植入陷阱诊断 AI Agent 选错工具原因 — alex_verem · 2026-08-07
- 研究揭示前沿 AI 模型易被“吹嘘式”工具描述欺骗 — alex_verem · 2026-08-07
- 实测 12 款开源重排模型:AI 搜索为何更爱引用清单体? — metehan777 · 2026-08-07
- 上海实验室发布 BigBang-v1:36B 自演化大模型 — AdinaYakup · 2026-08-07
- NVIDIA 团队打造数据分析 Agent,登顶 DABStep 榜单 — JFPuget · 2026-08-07
- 微软开源 AI 入门课程:12周24节课斩获6万 Star — bibryam · 2026-08-07