SmartGR 蒸馏生成式推荐模型，推理快 2.39 倍
_reachsumit · x · 2026-08-04
SmartGR 把大规模生成式推荐模型蒸馏成更快的学生模型
这篇论文讨论的是生成式推荐（generative recommendation, GR）的推理成本问题：模型越大，推荐效果往往越好，但在线推理代价也会明显上升。作者选择用知识蒸馏把大模型能力转移给轻量学生模型。
论文针对的两个难点
- 语义 ID 层级上的蒸馏难度不均衡：不同层级上的知识迁移难度不一样。
- Beam search 中前缀剪枝不准确：会影响最终排序质量。
方法
- Hierarchy-Aware SID Distillation：沿着语义 ID 层级迁移教师模型能力。
- Beam-Aware Ranking Distillation：在 beam search 过程中蒸馏教师的排序偏好。
结果
- 在 4 个基准数据集上做了评测。
- 作者报告平均 8.6% 的性能提升。
- 同时带来平均 2.39× 的推理加速。
「研究」频道最新
- QuerySplat: 解耦几何与外观的 3DGS 预测新框架 — zhenjun_zhao · 2026-08-04
- UniSim-SLAM: 统一 Sim(3) 优化的前馈 SLAM 系统 — zhenjun_zhao · 2026-08-04
- 无需标定板：卷帘快门相机自标定新方法 — zhenjun_zhao · 2026-08-04
- UniqueSplat: 结合视角先验的 3DGS 泛化重建新框架 — zhenjun_zhao · 2026-08-04
- Stipple: 结合视觉惯性跟踪的实时增量 3DGS 重建 — zhenjun_zhao · 2026-08-04
- 观点：掩码语言建模是历史弯路，本可直奔自回归 — jxmnop · 2026-08-04