LESSRec:只在目标语义层级检索历史token,提升语义ID推荐效果
_reachsumit · x · 2026-10-29
论文提出语义 ID(residual quantization)推荐范式下的历史建模改进。作者在推理期分析发现:与目标 token 同一层级的历史 token 信息量最大,其他层级反而引入干扰。LESSRec 由此将历史 token 序列按语义层级分别编码,预测时只对目标层级的历史做注意力,并额外提供按时间顺序表达每条历史物品整体语义的物品级语义序列,通过两个 cross-attention 分支融合。LESSRec+ 进一步用多个独立编码器分别编码各层级历史,总参数量不变以降低编码计算。在三个公开数据集、三种 tokenizer 上的大量实验验证了有效性。
「研究」频道最新
- 结合蛋白设计只解释约 3% 临床失败,AlphaFold 类模型被高估? — clarejtbirch · 2026-10-29
- Byte H-Net 代码任务显示 2.24 倍计算效率,OpenAI 研究员提醒规模 caveat — willdepue · 2026-10-29
- 467页图解《心理学与神经科学原理》上线,可配 AI 导师阅读 — burkov · 2026-10-29
- 新工作论文:AI 可依据预注册文件预测经济学处理效应 — birchlse · 2026-10-29
- kalomaze:固定尺寸 UTF-8 线性投影基线够用,BPE 只是惯性特权 — kalomaze · 2026-10-29
- ProgramLab 发布:1261 个真实程序作智能体训练场,可单练也可组队 — jyangballin · 2026-10-29