Matei Zaharia 团队发布 FLINT: late-interaction 检索索引省 89%、延迟快 170 倍
matei_zaharia · x · 2026-10-24
Databricks 联创 Matei Zaharia 团队在 arXiv 发布 FLINT(Fixed-budget Late INTeraction)论文,解决 ColBERT 类多向量检索「每个 token 存一个向量」的高存储与高延迟问题:
- 方法:用 attention-based pooling 把 query 和 document 对称地池化为固定数量的向量(而非只池化文档侧),大幅减少存储与检索时的向量比对次数;
- 效果:索引最多缩小 89%(相对 ColBERTv2 缩小 5.3-9.3 倍),检索延迟快 23-170 倍(TREC-ToT 2025 上 51.3ms vs ColBERTv2 8.7s);
- 质量:BEIR 短查询上与基线持平,在长复杂查询基准 BrowseComp+、CRUMB、TREC Tip-of-the-Tongue 2025 上反超,端到端比最近的 ConstBERT 快 1.5-2.8 倍;
- 提供向量预算旋钮,在存储、延迟与质量间权衡;在 BERT 和 ModernBERT 两种骨干上均验证有效。
「研究」频道最新
- Vik Paruchuri 回应「自评登顶可疑」:全部分数开源可审计 — VikParuchuri · 2026-10-25
- Datalab 实测 17 个开源 OCR 模型:自家 Chandra OCR 2 以 90.1 分登顶 — VikParuchuri · 2026-10-25
- Datalab 发布 OmniParseBench:16,288 项测试横评开源 OCR — VikParuchuri · 2026-10-25
- 评测阈值之争:有人提议只报 AUC 或增设 dev set 调阈值 — antoine_chaffin · 2026-10-25
- 论文提出自适应技能粒度框架,编码Agent运行时路由成功率达100% — dair_ai · 2026-10-25
- 研究:LLM 自我重写 Agent harness 两轮仅提升 2.8 分且不显著 — omarsar0 · 2026-10-25