SlideOn 用 Matryoshka 训练+向量剪枝,把存储成本压到 frontier
IgorCarron · x · 2026-10-19
SlideOn 通过文档向量剪枝达成存储效率前沿,关键做法是 Matryoshka 式训练并设定向量剪枝预算。配图显示 <2B 模型中 SlideOn 各剪枝档位(d-128 到 d-full)在 BEIR-15 质量与每文档非零特征数(NNZ)上全面优于 SPARSEUP、SPLADE-v3、OpenSearch 等稀疏基线,d-256 后质量趋平,可用约 250 NNZ 逼近全量效果。
「研究」频道最新
- 几块 GPU 从零训出 GPT-6.1 级重排器,Jimmy Lin 团队开源全流程 — lintool · 2026-10-20
- Project Greenhouse 论文:不用开源底座,几块 GPU 从零训 agentic 搜索模型 — lintool · 2026-10-20
- Simplex Diffusion Models 论文线上分享会今晚举行 — LucaAmb · 2026-10-20
- Salesforce 论文:2500 次 agent 互信测试无一主动验证对方,最弱者错误全队继承 — rohanpaul_ai · 2026-10-20
- 零样本视频生成如何服务机器人操作:约束优化视角的拆解 — mangahomanga · 2026-10-20
- 新论文界定 Blackwell 最优性可学习范围:唯一 Bellman 最优策略类 — _onionesque · 2026-10-20