Sentence Transformers 可调压缩比:128 倍压缩仍保 92% 召回
tomaarsen · x · 2026-10-30
Sentence Transformers 维护者 tomaarsen 介绍了 KaLM 团队 R2 系列重排模型的使用要点:
- 在 Sentence Transformers 中设置 model[0].chunksize = 128 可尝试更强的文档压缩,设为 None 则禁用 pooling。
- 作者报告即使 128 倍压缩,三个 R2 模型在 BEIR 和 MIRACL 上 2 倍压缩时平均 nDCG@10 仍保持 92% 以上。
- 用户可自行选择压缩比,在重排质量与计算开销之间权衡。
- 提醒:CrossEncoder 路径每次调用都会重新编码文档,开头的示例并不体现离线文档缓存的节省。
所属事件:KaLM R2 重排模型开源:128 倍压缩仍保 92% 召回(2 条相关)→
「编程与Agent」频道最新
- 开源工具 Simlock 让并行编码 Agent 各自独占模拟器不再抢设备 — Scobleizer · 2026-10-30
- Keyfleet 上线:个人 AI Agent 组队协作还带共享金库 — seanwbren · 2026-10-30
- Clear Thought MCP Server:给 AI 加结构化思维与心智模型的调试助手 — modelcontextprotocol · 2026-10-30
- NSE 股票分析 MCP:用 AI 分析 Nifty 500 个股的技术面与需求区 — modelcontextprotocol · 2026-10-30
- OpenRouter 重写路由算法:错误率降 46%,TTFT 快 16.9% — steipete · 2026-10-30
- Databricks 推出 Agent Memory:记忆架构让 Agent 通过率翻三倍 — matei_zaharia · 2026-10-30