阿里推出 LazFormer:用生成式预训练解决推荐排序负迁移问题
_reachsumit · x · 2026-09-15
阿里巴巴提出 LazFormer,一种面向工业推荐系统的可扩展 Transformer 排序模型:
- 动机:直接把预训练的稠密参数迁移到排序会因输入特征不一致导致负迁移;多轮排序训练又易使稀疏参数过拟合。
- 方法:生成式预训练模块自回归生成序列特征,为稀疏和稠密参数提供良好初始化;通过残差适配器迁移稠密参数,缓解负转移。
- 效果:降低从零训练排序模型的算力消耗并加快收敛。
「研究」频道最新
- Adobe 与 UCLA 提出 Tev:用可验证进度奖励破解长程 Agent 训练难题 — jiqizhixin · 2026-11-02
- 老招新用:path tracing 加 portal 采样,64spp 噪点显著下降 — ssh4net · 2026-11-02
- Marcel Böhme 提出漏洞引导加固哲学:为何安全永远无法一劳永逸 — mboehme_ · 2026-11-02
- Perplexity 开源研究型基准 WANDR:500 任务、17 万条证据点 — thisguyknowsai · 2026-11-02
- AI 意识研究者:我们没有可靠方法判断 AI 是否有意识 — dioscuri · 2026-11-02
- 蚂蚁团队发布统一反伪造模型,AI视频鉴伪达96% — inclusionAI · 2026-11-02