GLIE 论文:每页仅 4 个向量重建全部嵌入,压缩视觉文档检索存储
_reachsumit · x · 2026-09-11
arXiv 论文提出 Generative Late-Interaction Embeddings(GLIE),解决 late-interaction 视觉文档检索的存储痛点:
- 几何发现:跨三个编码器验证,页面嵌入向量精确位于单位球面且集中在本征维度仅 5-6 的流形附近,因此可从少量向量重建全部向量。
- 免费修正:k-means 质心落在球内导致 MaxSim 系统性低估,归一化到球面即可带来最高 +0.093 nDCG@5 提升。
- 方法:每页学习 k<<N 个向量作为轻量索引,查询时只在 k 个向量上检索,仅对 top 候选用解码器展开回全部 N 个向量做精确重打分,无需重训编码器。
- 效果:ViDoRe v1 上每页仅 4 个向量仍保留约 80% 未压缩性能,优于此前压缩方案。
「研究」频道最新
- PAPAV 框架综述：多模态具身智能体的感知-行动统一范式 — MikeShou1 · 2026-09-11
- 陶哲轩警告：AI 数学能力与网络攻击能力高度相关，风险非常真实 — sytelus · 2026-09-11
- 欧洲数学会发声：OpenAI 解 Navier-Stokes 是数学史金字塔，但模型不公开是隐忧 — i_dg23 · 2026-09-11
- AI 生成数学涌现,数学界需自建验证规范之争 — _sathvikr · 2026-09-11
- 阿里 RecGPT：三个 LLM 接入淘宝推荐，从拟合日志转向理解意图 — _reachsumit · 2026-09-11
- Meta 推出 Auto-RecSys:自主研究智能体跑多天级推荐系统实验 — _reachsumit · 2026-09-11