LinkedIn 提出 ESP:嵌入分块实现多目标检索的在线权重调优
_reachsumit · x · 2026-09-28
LinkedIn 发表论文 Embedding Subspace Partitioning(ESP),解决双塔检索模型将语义相关性与营收等业务目标压缩进单一静态向量、训练后无法在不重训情况下调整目标权衡的问题。
ESP 把 embedding 拆分为按目标划分的子空间,用各子空间相似度的加权和替代单次点积,权重可在服务时动态调整。实现上利用 Transformer 的序列结束 token 作分隔符,配合段感知注意力掩码与位置编码重置,保证单次前向中子空间隔离;检索用 GPU 加速的全量 kNN,无需为每个目标单独建 ANN 索引。
「研究」频道最新
- Anima Anandkumar 演讲:AI 气象模型胜超算,但不会取代科学家 — AnimaAnandkumar · 2026-10-23
- GLM-5.3-Flash 实现 1M token 上下文训练,较基线提升 64 倍 — AndrewLBeam · 2026-10-23
- 作者用布尔逻辑造 LM:前向传播单线程仅需几微秒但训练极慢 — cephaloform · 2026-10-23
- AdaDex:几秒人手视频即可教灵巧手学会抓取、抛接等可泛化技能 — mangahomanga · 2026-10-23
- ReAPO 论文:RLVR 中让模型在失败后重试,推理成绩与训练效率双升 — jasondeanlee · 2026-10-23
- 首个可跑在真实量子电路上的 JEPA 世界模型 Quantum-JEPA 发布 — DrMorganLevine · 2026-10-23