Qdrant 公开压缩方案:每页 PDF 仅需 64 字节,质量保留 99.2%
qdrant_engine · x · 2026-10-23
Qdrant 团队展示 Embed 5 Pro 页向量的极致压缩方案:每页仅占 64 字节内存,比 float32 小 128 倍,保留 99.2% 的全向量检索质量。
- 取前 512 维(Matryoshka/MRL 截断)
- 页面以 1-bit 二进制向量存储
- 查询向量用 Qdrant 非对称量化压到 8-bit
- 用磁盘上的全向量对 top 20 候选重打分
配套架构:RAM 中放 512 维二进制小副本,2048 维全向量放磁盘,查询 8-bit 检索后取 20 个候选重排,输出 top 10 页面。
所属事件:Qdrant 实测 Cohere Embed 5:单页单向量胜 ColPali,64 字节压缩保留 99.2% 质量(4 条相关)→
「Infra」频道最新
- 2-bit 量化 DeepSeek 4.1 Flash 本地实测:KDL 劣化明显却仍能用 — bakawolf123 · 2026-10-23
- 自建基础设施上部署 1T 参数模型季:开发者晒基建部署 — dejavucoder · 2026-10-23
- Liquid AI 发布 RIPL 推理引擎:整条 LLM 回复仅 30ms — JosephJacks_ · 2026-10-23
- 历史科技基建狂热持续 4-6 年,明年恰是 AI 的第 5 年 — oran_ge · 2026-10-23
- 寒武纪前三季营收 95.26 亿元翻倍,净利润同比增 131% — teortaxesTex · 2026-10-23
- 哪个州会率先自称「数据中心州」,靠开放新建攒出主权财富基金 — matt_slotnick · 2026-10-23