next-plaid 用一次 int8 运算把后交互搜索的精确重打分提速 6 倍
lateinteraction · x · 2026-09-03
开发者 chaochunh 宣布在 next-plaid 1.7.0 中近乎消除了 PLAID 风格后交互(late-interaction)检索的性能瓶颈:精确重打分(exact rescoring)。方法是一次 int8 运算即可完成,无需解压,兼容已有索引,纯 CPU 运行。基准图显示 1.6.5 版本中占大头的 "decompress" 段在 1.7.0 中消失,提速达 6 倍。该库为 ColGREP 提供底层支持,多位业内人士转发称赞。
所属事件:next-plaid 1.7.0 用 int8 运算大幅提速后交互检索(2 条相关)→
「Infra」频道最新
- tinygrad 在 MI300X 上跑出 MiMo-V2.6-Pro 约 200 tok/s — AIFlow_ML · 2026-09-23
- 爆料：64GB 版 RTX 5090 研发中，但短期内难上市 — AIFlow_ML · 2026-09-23
- Swarm 推出 Qwen Image-2.1 推理引擎:1K 图生成仅 0.5 秒 — bingxu_ · 2026-09-23
- MTP 头被静默忽略：修复三行代码让 Mac 本地解码提速 63%-79% — Micha0827 · 2026-09-23
- 开源自托管备份方案Pluton：Restic+Rclone加密备份跨云复制 — tom_doerr · 2026-09-23
- TensorSharp 直读 label logits，结构化决策比 LocalJev 快 3.3 倍 — fuzhongkai · 2026-09-23