EMNLP 论文:推理反而损害 pointwise 重排效果
lintool · x · 2026-11-06
EMNLP 2026 Findings 论文《Don't "Overthink" Pointwise Reranking》系统回答:推理是否真的提升 pointwise 重排器?
核心发现
- 受控对比 Rank1(推理型重排器)与同骨干、同训练数据的非推理版 Rank0:跨域内外数据集,Rank1 普遍不敌 Rank0。
- 更反直觉的是,把 Rank1 的推理过程替换成固定 dummy 序列(Rank1-NoReason),效果也能超过 Rank1 本身。
原因分析
- 一旦 Rank1 判定段落相关,它给出的相关分数几乎相同,丧失区分相关程度的能力,直接拖累排序精度。
结论:为重排器引入推理链并非免费午餐,可能需要重新设计评分机制。代码已开源(github.com/nourj98/dont-overthink-reranking)。
「模型」频道最新
- AI 写作屡赢文学奖项,为什么读起来还是让人烦 — cis_female · 2026-11-06
- METR 图表泄露 Anthropic 未发布 Model 4:能力指数达 178.6 — ResultBackground2450 · 2026-11-06
- 开源 Marin 535B-A23B 完成主预训练:18T tokens,下周放 checkpoint — dlwh · 2026-11-06
- Artificial Analysis 发布 Intelligence Index v5,新增 Progress Index — ArtificialAnlys · 2026-11-06
- Fastino 开源 GLiDE 决策模型家族,0.4B-27B 单次前向出决策 — HowDevelop · 2026-11-06
- 新模型 V0.5 开源上线:权重已发布 Hugging Face 并附技术报告 — rohanpaul_ai · 2026-11-06