论文实测:决策微调模型做重排序反而不如直接微调 Reranker
_reachsumit · x · 2026-10-26
arXiv 论文《System One models Are Not Better Rerankers》(Dinzinger 等) 系统检验了 2026 年 9 月出现的"决策模型"(System One,输出校准概率而非生成文本)是否是更好的重排序器:
- 覆盖 0.6B 到 27B 的六个 Qwen 底座、十个 TREC DL 与 BEIR 集合,对比零样本、决策微调与 reranker 微调三种设置。
- 结论:决策微调从未胜出。0.6B–9B 区间,reranker 微调在每个底座上以 5–29 点 nDCG@10 领先,零样本集合同样成立;27B 时两者打平。
- 9B 以下,决策微调相比直接问未微调模型没有任何增益;其校准优势依赖问法——换一种问法后优势消失。
- 校准也弥补不了排序质量差距:固定阈值下 reranker 微调保留的相关段落更多。
作者给出直白建议:需要 reranker 就直接微调一个 reranker。
所属事件:论文实测:决策模型做重排序不敌直接微调 Reranker(2 条相关)→
「研究」频道最新
- CoRL 论文:VLA 机器人策略单步推理即可匹敌多步,动作生成提速 1.6~4.8 倍 — kaixhin · 2026-10-26
- 生物模拟为何难:参数敏感性普遍「马虎」,精确测量常非关键 — rbhar90 · 2026-10-26
- LessWrong 长文论证:计算逻辑反事实难题让 FDT 难以成立 — jessi_cata · 2026-10-26
- 学者纠错:别再误用苦涩教训论证暴力模拟将解决生物学 — anshulkundaje · 2026-10-26
- Chain Theory:用 AI 从量子信息重建基础物理,找到无参数精细结构常数候选式 — skdh · 2026-10-26
- 港浙复三校联手 Lightspeed 推 HiSTEVE:VLA 智能体键鼠操控玩转 Minecraft — tencent · 2026-10-26