MRVQ 论文:单一索引同时弹性调维度与码率,省内存最高 22 倍
_reachsumit · x · 2026-10-05
arXiv 论文提出 Matryoshka Residual Vector Quantization(MRVQ),一种针对冻结嵌入的事后(post-hoc)残差量化方法,为稠密检索提供「维度+码率」双重弹性的单一驻留索引。
- 核心思路:最大码率的编码可以两种方式截断——丢弃残差阶段降低码率,丢弃嵌入坐标降低维度;一个索引文件即可服务所有(维度, 码率)组合,无需为每个码率单独训练量化器。
- 结果:在 FiQA、NFCorpus 上,跨 4 个嵌入家族、{4, 8, 16} 字节码长评测,MRVQ 是内存最低的设计:比三个分别训练的 QINCo2 索引省 17.8–22.0 倍内存,比精简共享模型方案省 1.89–2.02 倍;同等码长下优于 PQ、OPQ、AdANNS-OPQ。
- 代价与取舍:逐码率的 QINCo2 在 FiQA 上 nDCG@10 高 0.026–0.107,MRVQ 定位是低内存弹性工作点而非全面质量赢家。
- 附加贡献:一个低构建成本的 PCA-scalar 设计,质量接近 RaBitQ 且中位构建速度快 420 倍;并报告了两个负面结果(QINCo2 高码率训练崩溃、排序界假设未达预设标准)。
「研究」频道最新
- RFD4-Proteina 文档被赞被低估:partial diffusion 用法详解 — AllThingsApx · 2026-10-23
- 漏洞检测方向新博士毕业,论文覆盖 ML 漏洞检测能力基准 — mboehme_ · 2026-10-23
- LiveNerf 连续 29 天实测:未发现 Claude Opus 5.5 被降智 — TheOnlyVibemaster · 2026-10-23
- 新论文预警:最早 2027-2028 年或现重大 AI 赋能恐怖袭击事件 — StephenLCasper · 2026-10-23
- HumanoidPose:仅靠 RGB 视频还原人形机器人全身关节状态 — cholz · 2026-10-23
- Sophont 发布医学模型 Holon-S1：从病理切片预测基因与生物标志物 — iScienceLuvr · 2026-10-23