十亿级向量下 HNSW 检索扩展方案引热议

embedding 检索在生产环境日趋常态化,Vespa 工程师 jobergum 透露其设计合作伙伴已在生产中运行数十亿向量,且来自 agent 的 QPS 持续攀升。Hornet CTO Henning Baldershim 分享了在十亿级向量规模上扩展 HNSW 的方案,目标包括真实时(写入返回后立即可查)、高 QPS 低延迟,并通过将向量量化到 2 位来应对内存放不下的问题。

2026-11-20 ~ 2026-11-20 · 2 条相关