Chimera 检索系统:GPU-CPU 协同提速 16 倍

_reachsumit · x · 2026-08-25

Chimera 是一种新型的多向量检索系统,通过 GPU-CPU 协同处理解决了现有系统的瓶颈。传统 GPU 方案(如 PLAID)受限于查询时的数据传输开销,而 Chimera 将高压缩、低精度的量化码存储在 GPU 上,同时保留高精度数据在 CPU 内存中。

该方法在查询时利用 GPU 数据进行高效的候选生成与过滤,并通过协同评分方案完全避免了向量数据传输,同时实现了计算重叠。实验表明,Chimera 在相同召回率下,QPS(每秒查询率)比现有方法最高提升 16.0 倍。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →