谷歌开源 GINGER:向量检索吞吐提升 1.8 倍,内存省 2.6 倍
_reachsumit · x · 2026-11-06
谷歌发布开源 C++ 库 GINGER,面向图索引的近似最近邻搜索(ANNS),论文 arXiv 2611.08306:
- 基于 PiPNN 近邻图构建与 TurboQuant 量化进展,提出 Nested TurboQuant(NTQ)双层量化器,同一表示内完成低精度图导航和高精度重排,内存减少 2.6 倍仍接近浮点精度。
- 近邻图压缩最高 2.5 倍,且不影响查询吞吐;结合图重排与基于 StreamVByte 的新无损压缩编码 AdaptiveGap。
- 实测:在 95% recall 下,查询吞吐比各数据集最快竞品平均快 1.8 倍,比任何单一库至少快 2.3 倍;高维 embedding 上对紧凑型库领先达 2.9 倍,索引构建时间也占优。
对自建向量检索/ RAG 基础设施的团队是有分量的新选择。
「Infra」频道最新
- Thinking Machines Inkling 2 Small 训练消耗 12.55T tokens，RL 用掉超四分之一预训练算力 — YouJiacheng · 2026-11-06
- SpaceX 拟在亚利桑那建 6GW 数据中心：9 栋楼、零工业用水 — elonmusk · 2026-11-06
- 单台 AMD Strix Halo 跑通 552B 巨兽模型，解码 38.2 tokens/s — solyarisoftware · 2026-11-06
- AI 管线降本 7 技巧：从模型路由到按任务算成本 — goyalshaliniuk · 2026-11-06
- Google 拟投 170 亿美元建怀俄明首个数据中心,配 702MW 天然气燃料电池 — vitaliychiley · 2026-11-06
- 谷歌拟投 150 亿美元建马来西亚数据中心，两条地缘路线同赴一国 — xuanalogue · 2026-11-06