分层 token 池化让多向量索引减半，性能几乎无损
tomaarsen · x · 2026-08-18
多向量检索的痛点是索引膨胀：4,874 篇 Natural Questions 文章会变成 608,414 个 token 向量、311.5 MB，约为 1024 维 dense 索引（约 20 MB）的 16 倍。Clavié、Chaffin 与 Adams 提出的 HierarchicalTokenPooling 用 Ward 层次聚类压缩每个文档的 token 向量，只保留约 1/poolfactor；poolfactor=2 时索引减半，仍保持未池化 BEIR 性能的 100.6%，可按次调用、独立使用或直接烘进模型。另两条出路：真正的晚交互索引，或把多向量模型当 reranker 用。
所属事件:Sentence Transformers v6.0 发布：晚交互多向量模型成一等公民(40 条相关)→
「编程与Agent」频道最新
- 开发者用 Grok 清理 3D 打印机固件:能用,但逐行审查后揪出胡写代码 — yacineMTB · 2026-10-16
- iandanforth 补充：用流程和护栏兜底 AI 委派，需要全职团队投入 — iandanforth · 2026-10-16
- 什么样的任务才真正能委派给 AI：结果可验证且方法无需被审视 — iandanforth · 2026-10-16
- Yacine 放话：AI 生成的 3330 个测试全都没用，删掉 — yacineMTB · 2026-10-16
- 开发者:除顶尖专家外,编码模型在软件各领域已全面超越人类 — zack_overflow · 2026-10-16
- 8 核 CPU 跑 Q4 量化模型，10 分钟单次生成太阳系交互演示 — IntrepidMindExplorer · 2026-10-16