四种 RAG 重排器实测：Cohere 把第 15 名答案捞回第 1，小 Cross-Encoder 反而更糟

Affectionate_Slip654 · reddit · 2026-10-20

作者搭建完整 RAG 重排管线，在 5 份支付行业 PDF（共 1507 chunks）上对比 Cross-Encoder、LLM 重排、Cohere、Jina 四种方案，追踪重排前后的排序变化与原因。

关键结论：相似≠相关；本地小 Cross-Encoder 因偏爱字面匹配反而把正确答案挤出 Top 5；LLM 重排理解上下文把答案排到前两位；Cohere 把第 15 位的答案提到第 1，与 Jina 综合最佳。所有重排器应跑同一份 Top 20，用 Hit@5、位置变化、延迟评估。代码与视频讲解已公开。