Shopify 提出 T-RoPE:给推荐系统加时间感知的旋转位置编码
_reachsumit · x · 2026-09-28
Shopify 发表论文 T-RoPE,针对采用生成式 LLM 配方的序列推荐系统改进 RoPE。标准 RoPE 只编码交互顺序,无法表达时间间隔、行为周期与季节性;作者证明即便对时间戳用 RoPE,其时间平移不变性也无法区分季节情境。
T-RoPE 用真实时间戳做多尺度旋转角度,配合可学习时间系数、多尺度频率组、偏移 query 对齐与非平稳 key 旋转,且保持 RoPE 接口兼容。实验显示:在 5 个公开基准全部指标第一,稀疏 PixelRec 上 HR@10 较最强基线提升 78–130%,Amazon Books 提升 8–12%;在超 60 亿交互的工业电商数据上较 HSTU + Time RAB 提升 13–82%,消融显示多尺度频率贡献最大。
「研究」频道最新
- DeepMind 论文:简单二次模型即可预测 LLM 训练 loss 尖峰 — burny_tech · 2026-10-25
- AI 优化系统开发案例:基础 agent 群+好指标就能落地研究想法 — sh_reya · 2026-10-25
- 超 1000 名数学家组建「人类数学协会」,承诺不发 AI 生成论文 — Hesamation · 2026-10-25
- 三大科学基准对比:CritPt、SciCode 与 Terminal-Bench Science — geoffwolfe · 2026-10-25
- 研究者呼吁加速机器人研究:2 天即可产出 supermimic 后续论文 — ChongZzZhang · 2026-10-25
- EMNLP 新论文提出 CTA:用归因图解释线性探针从何而来 — ZhijingJin · 2026-10-25