Chimera 检索系统:GPU-CPU 协同提速 16 倍
_reachsumit · x · 2026-08-25
Chimera 是一种新型的多向量检索系统,通过 GPU-CPU 协同处理解决了现有系统的瓶颈。传统 GPU 方案(如 PLAID)受限于查询时的数据传输开销,而 Chimera 将高压缩、低精度的量化码存储在 GPU 上,同时保留高精度数据在 CPU 内存中。
该方法在查询时利用 GPU 数据进行高效的候选生成与过滤,并通过协同评分方案完全避免了向量数据传输,同时实现了计算重叠。实验表明,Chimera 在相同召回率下,QPS(每秒查询率)比现有方法最高提升 16.0 倍。
「Infra」频道最新
- Meta 数据中心年耗水够 800 户用,但当地苜蓿种植耗水是其 400 倍 — Promptmethus · 2026-08-25
- 小模型展现高性价比,或将重塑部署成本结构 — eyishazyer · 2026-08-25
- Hugging Face 库因兼容性广,性能常不及专用优化方案 — bclavie · 2026-08-25
- 解决 7900 XTX 独显 Linux 低内存崩溃问题 — Snoo_81913 · 2026-08-25
- 苹果 Siri 服务器曝光:32 颗 Apple Silicon 芯片组网 — asymco · 2026-08-25
- 高交互场景下 Blackwell 性能遭质疑 — zephyr_z9 · 2026-08-25