组合拳：压缩后索引更小且性能优于 Qwen3-8B
tomaarsen · x · 2026-08-26
进一步将向量剪枝至 42% 后，作者将索引压缩至 1.45 GB，NDCG@10 仍保持在 86.4。
相比之下，Qwen3-Embedding-8B 在相同语料库上的 fp16 索引为 1.64 GB，得分仅为 77.5。这表明经过优化的 Late Interaction 索引在体积更小的同时，性能还能领先 9 分，打破了“LI 模型太大”的刻板印象。
所属事件:1-bit 残差加向量剪枝让索引缩小 13 倍(2 条相关)→
「Infra」频道最新
- 传 SK 海力士美国建厂或以美方放宽对华设备出口为条件 — pstAsiatech · 2026-10-15
- Perplexity 新 embedding 模型：大模型建索引、小模型做查询 — antoine_chaffin · 2026-10-15
- Unsloth 发布 Nemotron 3.5 本地量化包:Bolt 24GB 内存可跑 — danielhanchen · 2026-10-15
- vLLM-Omni 联手 BFL 与 NVIDIA 上线 FLUX 3 Image Klein 当日支持 — vllm_project · 2026-10-15
- NVIDIA Nemotron 3.5 Super VL 上线 Applied Compute 平台训推 — ypatil125 · 2026-10-15
- CoreWeave 债券收益率破 16%,贷款期限比客户合同长约 2 年 — tengyanAI · 2026-10-15