推荐系统推理太慢?SPRINT 一次前向直接生成物品语义 ID
_reachsumit · x · 2026-09-29
论文 SPRINT 提出单步生成式推荐:现有语义 ID(SID)生成范式都要逐 token 付费——自回归模型从左到右解码,非自回归模型也需多轮 refinement,多次前向传播在延迟敏感的推荐场景代价过高。
作者提出「平均概率速度」新视角,证明该量完全由各 token 的平均生成概率决定,于是用一个双向 Transformer 在单次前向中直接参数化并学习所有 token 概率;针对独立生成导致的 token 间连贯性丢失,设计了双层流对比损失来恢复 item 内 token 的一致性。
「研究」频道最新
- 心理学家 Gopnik:儿童的「缺点」恰是卓越学习者的关键 — AlisonGopnik · 2026-10-24
- 构造出可证等价于 Con(ZFC) 的丢番图方程,Lean 证明进行中 — IgorCarron · 2026-10-24
- 研究估算:每兆焦 LLM 产出 123-417 美元经济价值 — dan_s_becker · 2026-10-24
- AI 参与论文引用了根本不存在的 TorrentFreak 文章 — TangerineDream · 2026-10-24
- 如何量化企业的 AI 投入?新论文给出测量框架与数据集盘点 — TaniaBabina · 2026-10-24
- LLM 推理范式或正从批并行转向序列并行,扩散式 LM 是终点? — sedielem · 2026-10-24