阿里推出 LazFormer:用生成式预训练解决推荐排序负迁移问题
_reachsumit · x · 2026-09-15
阿里巴巴提出 LazFormer,一种面向工业推荐系统的可扩展 Transformer 排序模型:
- 动机:直接把预训练的稠密参数迁移到排序会因输入特征不一致导致负迁移;多轮排序训练又易使稀疏参数过拟合。
- 方法:生成式预训练模块自回归生成序列特征,为稀疏和稠密参数提供良好初始化;通过残差适配器迁移稠密参数,缓解负转移。
- 效果:降低从零训练排序模型的算力消耗并加快收敛。
「研究」频道最新
- scvi-tools 发布六年仍被广泛使用,扛住基础模型与编码智能体冲击 — anshulkundaje · 2026-09-16
- Lightning Weave:能力组合蒸馏同提推理准确率与 token 效率 — Yecheng Wu · 2026-09-16
- 丹麦行政数据研究:AI 对收入和工资「无影响」 — paulnovosad · 2026-09-16
- Zero 智能体用「会对话的模拟角色世界」合成数据训练 — generativist · 2026-09-16
- NeurIPS 论文:Newcomb 类环境中 RL 智能体可能无法收敛到最优策略 — jessi_cata · 2026-09-16
- 15.3万人偏好评分:DAI-S2S-ST 语音模型人类偏好榜单发布 — rdesh26 · 2026-09-16