GLIE 论文:每页仅 4 个向量重建全部嵌入,压缩视觉文档检索存储
_reachsumit · x · 2026-09-11
arXiv 论文提出 Generative Late-Interaction Embeddings(GLIE),解决 late-interaction 视觉文档检索的存储痛点:
- 几何发现:跨三个编码器验证,页面嵌入向量精确位于单位球面且集中在本征维度仅 5-6 的流形附近,因此可从少量向量重建全部向量。
- 免费修正:k-means 质心落在球内导致 MaxSim 系统性低估,归一化到球面即可带来最高 +0.093 nDCG@5 提升。
- 方法:每页学习 k<<N 个向量作为轻量索引,查询时只在 k 个向量上检索,仅对 top 候选用解码器展开回全部 N 个向量做精确重打分,无需重训编码器。
- 效果:ViDoRe v1 上每页仅 4 个向量仍保留约 80% 未压缩性能,优于此前压缩方案。
所属事件:GLIE 论文：晚交互检索向量可压缩约 200 倍存储(4 条相关)→
「研究」频道最新
- OpenSIR 自博弈框架：LLM 无需训练数据自学数学推理 — PMinervini · 2026-10-28
- 网友玩坏可解释性:找到了让 Qwen「发疯」的神经元 — sebkrier · 2026-10-28
- 不开向量检索也能拿 86.67%,开源记忆层 Mind 挑战 embedding 必要性 — GabrielMartinMoran · 2026-10-28
- 提议：给每篇 arXiv 论文找最短复现 prompt,度量真实信息增量 — tak3sh8 · 2026-10-28
- Piano2Pop：无需对齐监督，把钢琴 demo 自动扩展成完整流行歌 — affige_yang · 2026-10-28
- RAX让真机器人探索2小时自学技能，再把技能写成代码复用 — du_yilun · 2026-10-28