Qdrant 实测 Perplexity 视觉文档嵌入:1-bit 压缩后体积仅 1/21
jrxna · reddit · 2026-10-16
Qdrant 对 Perplexity 新发布的视觉文档嵌入(pplx-embed-v2)做了独立测试,在 4 个 ViDoRe v3 数据集共 11,609 页上验证。该模型直接以整页图像为检索单元,表格和版式无需解析即可保留。
核心结果
- 1-bit TurboQuant 把每页压缩向量从 856 KB 降到 40 KB(约 1/21),仍保留 float32 检索得分的 96.5%
- 对原始向量重排序(rescoring)后可回到 99.9%
关键限制
- 40 KB 不含原始向量:要拿到 99.9% 就得保留全量原向量并承担重排序的磁盘读取
- 「百万页」级数字是推算而非实测基准
对做文档检索的团队,权衡点在于:重排序的磁盘读取、索引成本与真实查询上的误差,哪个先变得不划算。
「Infra」频道最新
- 卖一张 5090 换四张 R9700：显存翻倍值不值 — poofph · 2026-10-16
- 32GB 内存+8GB 3070 跑 PolyStrata+ Cline，约 90 tok/s — rpwoerk · 2026-10-16
- TensorFold 1.0.12 发布：120B 视觉模型跑进 1-2 台 DGX Spark — HankYeomans · 2026-10-16
- vLLM 适配 NVIDIA RTX Spark PC，前沿模型可本地部署 — vllm_project · 2026-10-16
- 黄仁勋预告 GTC 柏林再签约 20 亿美元,欧洲 AI 投入将达约 100 亿美元 — CurieuxExplorer · 2026-10-16
- Martin Fowler 刊文:让数据为 Agentic AI 就绪,先修信任再谈语义 — bibryam · 2026-10-16