四种 RAG 重排器实测：Cohere 把第 15 名答案捞回第 1，小 Cross-Encoder 反而更糟
Affectionate_Slip654 · reddit · 2026-10-20
作者搭建完整 RAG 重排管线，在 5 份支付行业 PDF（支付法规、PCI DSS、央行报告，共 1507 chunks）上对比 Cross-Encoder、LLM 重排、Cohere、Jina 四种方案，追踪每次重排前后的排序变化与原因。
关键结论：
- 相似≠相关：向量检索找到「关于该主题」的 chunk，强重排器才找到「真正回答问题」的 chunk。
- 本地小 Cross-Encoder 可能更糟：偏爱字面匹配、惩罚排版混乱的 PDF 文本，把两个正确答案 chunk 挤出 Top 5。
- LLM 重排理解上下文（如「3.3 属于 Requirement 3」），把两个答案 chunk 排到第 1、2 位。
- Cohere 表现亮眼：把第 15 位的答案提到第 1，将完全漏掉的答案变成正确引用；Cohere 和 Jina 综合最佳，代价是按次付费和文档外发。
- 实验方法：所有重排器跑同一份 Top 20，用 Hit@5、前后位置、平均延迟评估。
技术栈：Python、Qdrant、gemini-embedding、Hugging Face Transformers + PyTorch、ms-marco-MiniLM-L-6-v2、Listwise LLM 重排、Cohere/Jina API。代码与视频讲解均已公开。
所属事件:四种 RAG 重排器实测：Cohere 表现最佳小模型反变差(2 条相关)→
「编程与Agent」频道最新
- OpenAI 新域名源码藏「6.5」,倒计时指向 11 月 1 日发布 — kimmonismus · 2026-10-20
- 让 Claude「加班」通宵干活，它还贴心道了晚安 — gabriel1 · 2026-10-20
- Agent 能看流量逆向出 App 的行为,却记不住我的偏好 — Resident-Fall4351 · 2026-10-20
- 不换 Deno:10 万行 agent 平台迁移 Cloudflare Workers 实战复盘 — uriwa · 2026-10-20
- 开发者称 Claude Code 会话可被「礼貌唤起」为主动协同的蜂群大脑 — RileyRalmuto · 2026-10-20
- 开发者补充：「Ghost」实为 Polyphonic 应用内的自主 agent 功能名 — RileyRalmuto · 2026-10-20