Qdrant 实测 Perplexity 晚交互嵌入:向量缩小 21 倍,质量保留 99.9%
qdrant_engine · x · 2026-10-14
Qdrant 团队与 Perplexity 合作测试了 pplx-embed-v2-late 晚交互检索器,结合 Qdrant 的 TurboQuant 量化,在 4 个 ViDoRe v3 数据集上做了评测。
- 向量体积缩小 21×:每页从 856 KB 压到 40 KB
- 经 rescoring 后保留基线检索质量的 99.9%
- 代价:rescoring 需要用到原始向量,存在存储上的权衡
对做大规模检索/RAG 的人来说,这是显著的存储成本优化方案,完整 benchmark 数据见原帖。
所属事件:Qdrant 实测 Perplexity 晚交互嵌入:向量缩小 21 倍(3 条相关)→
「Infra」频道最新
- 投资人警告:neocloud 扎堆转推理却无差异化,恐难逃整合 — AccBalanced · 2026-10-14
- Lightning AI 将亮相 GTC 柏林,谈创业公司各阶段如何拿到 GPU — LightningAI · 2026-10-14
- Hugging Face 将直播讲解投机解码,如何给本地 LLM 提速数倍 — mervenoyann · 2026-10-14
- 黄仁勋的算盘:扶植 CoreWeave 在大客户与英伟达间筑起缓冲层 — AccBalanced · 2026-10-14
- 64GB 版 Nvidia Spark 欧洲售价 6574 欧元,比官方贵出离谱 — AIFlow_ML · 2026-10-14
- Toby Ord:押注算力与能力的整体关系,而非盯着单一瓶颈 — ben_j_todd · 2026-10-14