向量体积缩小 21 倍:Qdrant 用 TurboQuant 修复 Perplexity 视觉检索器体积问题

qdrant_engine · x · 2026-10-14

Qdrant 团队测试了 Perplexity 新发布的视觉检索嵌入模型 pplx-embed-v2-late,发现其单页向量体积高达 856 KB,部署成本可观。

他们用自家的 TurboQuant 量化技术在 4 个 ViDoRe v3 数据集上实测,可将每页向量从 856 KB 压缩到 40 KB(缩小约 21 倍),同时保留基线检索质量的 99.9%。

代价是需要 rescoring:量化后的向量质量下降,须用原始向量重打分才能保住精度,因此存储端省、但推理端要保留原向量。作者认为这对 PDF/文档类视觉检索(表格、图表上下文)场景是实用的存储优化方案。

所属事件:Qdrant 实测 Perplexity 嵌入模型可压缩 21 倍(2 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →