Meta DecisionRank 用在线策略蒸馏让 1.7B 重排器反超 27B 教师
Meta 联合普渡大学提出 DecisionRank,通过条目空间在线策略蒸馏(OPD)将生成式大模型的排序知识迁移给高效决策模型重排器:学生模型对文档打分并排序成序列,生成式教师针对该列表提供条件反馈进行监督。决策模型直接预测选项或分数,避免自回归解码延迟。结果显示 1.7B 学生模型性能超越 27B 生成式教师,推理速度快 24.5 倍。
2026-11-02 ~ 2026-11-03 · 3 条相关
- Meta DecisionRank:1.7B 学生模型反超 27B 教师快 24.5 倍 — _reachsumit · 2026-11-02
- Meta DecisionRank:1.7B 小模型蒸馏超越 27B 生成式教师 — meta · 2026-11-03
另有 1 条近重复转述:kalyan_kpl