重排器哪些设计没跑通
tomaarsen · x · 2026-07-17
这篇博客最有价值的地方，是把几种没跑通的设计也讲得很清楚：
- Tournament scheduling 反而让指标掉了 27 NDCG；
- First-token readout 的收益上限不高，最多大约 1.6x；
- 如果把一个 listwise 模型硬按 pointwise 来读，会损失掉大部分提升；
- 对 2B 模型来说，真正的瓶颈不是 decode，而是 ViT encoder。
这种“哪些方案失败了、为什么失败”本身很有参考价值。
所属事件:LightOn 推出多模态重排器系列(10 条相关)→
「研究」频道最新
- gdb 宣布 AI 辅助拿下数学、复杂性理论与量子场论三项科学发现 — gdb · 2026-10-27
- 学术圈观察:AI 一边制造论文垃圾,一边清理人类遗留的学术垃圾 — _akpiper · 2026-10-27
- OpenAI 宣布三项科学新成果：涵盖数学、复杂度理论与量子场论 — thesaraharminta · 2026-10-27
- CMU 等团队提出「epiplexity」:为计算受限智能体重定义信息量 — davidmanheim · 2026-10-27
- 4 个 Gemini 智能体自助协作 27 小时通关 Minecraft — rohanpaul_ai · 2026-10-27
- OpenAI 发布 PDF 声称反驳指数时间假说:3SAT 或可近亚指数求解 — rrwilliams · 2026-10-27