arXiv 论文:双塔检索中流行物品范数增长给热门内容额外曝光
_reachsumit · x · 2026-11-10
arXiv 2611.09294 研究统一搜索与推荐系统中,同一物品向量同时被两类交互流更新时的范数增长现象。
- 即使只用 cosine 损失训练(梯度理论上垂直于当前向量、切于等范数球面),由于编码器参数在变,实际物品向量移动未必保持切向。论文推导了保持切向的充分条件,此时每次非零更新都会让范数平方增加。
- 当两个任务共享物品编码器时,两条流的顺序更新会在范数上累积,而未归一化的点积打分服务会把这种增长转化为额外曝光——本质上成了一种流行度机制。
- 在 MovieLens 32M 与 Amazon Books 上的受控消融验证:切向累积移动伴随「频率-范数」关联,raw dot product 排序比归一化排序给头部物品更多曝光。
- 在「每物品 ID 向量 + 共享内容编码」的非线性塔中,作者进一步把范数变化分解为 ID 更新贡献与其他输出变化,并用匹配训练干预消除 ID 行更新带来的即时范数增长——该干预减少了范数相关曝光,但也损害了推荐(摘要在此截断)。
「研究」频道最新
- MSK 联合 Illumina AI 实验室发布人体 anellovirus 持续性调控研究 — SeyoneC · 2026-11-10
- 6 推长文:专用模型统一成端到端系统,编排逻辑将被训练取代 — andreisavu · 2026-11-10
- 审稿人吐槽:NeurIPS 2026 拒稿几乎原样改投 ICLR 2027 再遭低分 — 3scorciav · 2026-11-10
- HARP-Bench:37 任务测机器人与人类协作,主流策略成功率仅 9-19% — gan_chuang · 2026-11-10
- 研究:VLA 推理仅跑 1 步 Euler 即可,提速 1.6-4.8 倍 — kaixhin · 2026-11-10
- Bengio 团队发布 182 页机械可解释性综述,登顶 alphaXiv 热榜 — burny_tech · 2026-11-10