微软证明多向量嵌入检索可指数级压缩单向量
_reachsumit · x · 2026-08-25
微软研究人员在论文中正式证明,对于文档排序任务,多向量嵌入可以比单向量嵌入指数级更紧凑。他们构造了首个显式的查询和文档集合,使得单向量嵌入需要指数大小才能正确排序,而多项式大小的多向量嵌入即可胜任。基于理论构造,他们提出了新的检索基准 ANDOR,实验表明最先进的单向量模型在零样本和微调后表现不佳,而多向量模型表现更好且微调后显著提升,与理论预测一致。
「研究」频道最新
- Statistical Rethinking 2026 课程发布:20 讲涵盖因果推断与科学建模 — RichmanRonald · 2026-08-25
- 模拟推理新范式:用神经网络解概率黑箱 — burkov · 2026-08-25
- 科学数据压缩新法 WIEN-INR,保留微小物理结构 — bravo_abad · 2026-08-25
- 阿里提出 ERPO:用环境正则化优化 LLM 策略 — alibabagroup · 2026-08-25
- NeurIPS 2026 征稿:关注 AI 在生物学中的失效模式 — anshulkundaje · 2026-08-25
- SimCLR 与 MoCo 区别于增量式科学 — 3scorciav · 2026-08-25