HASTE 给生成式推荐加层级监督,加速收敛并改善长尾推荐
_reachsumit · x · 2026-10-14
论文提出 HASTE 训练框架,改进用自回归生成 Semantic ID 的生成式推荐模型。针对标准因果交叉熵不利用 SID 层级结构、长尾物品表征差两大问题:
- Hierarchical Loss:在物品层级的每一层提供监督,显式利用 SID 多级结构,大幅加快训练收敛。
- Attribute-Specific Losses:增加属性预测头,借助语言模型固有的语义知识保留细粒度物品属性,显著改善数据稀疏的尾部物品表征与长尾推荐效果。
作者称该方法同时提升训练效率与长尾推荐性能。论文编号 arXiv:2610.17368。
「研究」频道最新
- 小鹏发布自动驾驶 VLA 模型 AUGUstus，NAVSIM 双榜 SOTA 并实车部署 12Hz — XPENG-AI · 2026-10-14
- 阿里联合南洋理工系统评测对比学习策略：多数花式技巧收效甚微 — alibaba-multimodal-industrial-ai · 2026-10-14
- Lightricks 推出 APEX：层级潜空间+异步去噪，实现 64-128 倍极致压缩 — Lightricks · 2026-10-14
- EMHO：冻结模型不变，让具身智能体框架从经验轨迹自我进化 — Hyun Jung Lee · 2026-10-14
- 港中深等发布 WorldCast：分布式多人世界模型，CS2 上实时运行 — CUHKSZ · 2026-10-14
- 高丽大学发布 MixLID：token 级混合语言识别模型，覆盖 111 种语言 — Seongtae Hong · 2026-10-14