什么是生成式重排：让 LLM 直接生成排序而非打分
dejanseo · x · 2026-09-07
dejan.ai 新增概念条目「Generative Reranking」（生成式重排），系统梳理了这一检索技术范式：
- 定义：把 query 和候选列表放进 LLM 上下文，由模型直接按序生成候选标识符，标识符出现的位置即排名——排序本身是一段生成文本，而非单独打分模型的分数输出。
- 起源：范式由 Sun et al. (2023) 的 RankGPT 确立，证明 LLM 可对段落做 listwise 重排，超长列表用滑动窗口处理；BlockRank 论文称之为 in-context ranking，需与模型从自身权重召回事实的 generative self-retrieval 区分。
- 代价与缺陷：自回归解码每个 token 一次前向传播，N 个候选至少需要 N 步，延迟随列表长度增长；输出是自由文本，可能重复或遗漏标识符，产生非法排列。
- 改进方向：保持 LLM 为排序器、改变解码方式——FIRST (Reddy et al., 2024) 从第一个生成标识符的 logits 读出整段排序；hLLM (Laftchiev et al., 2026) 用 prefill 隐状态加小型自注意力头生成 item×position 分数矩阵，再以匈牙利算法求最优分配，使排列天然合法。
「研究」频道最新
- KL 散度何时对称?柯西分布有闭式解,指数族仅限同协方差正态 — FrnkNlsn · 2026-09-07
- 开源 MathKernel MCP：160+ 数学工具给结果打信任标签，拒绝伪装证明 — Staatsgeheim_ · 2026-09-07
- DNSPIR 发布：用隐私信息检索保护 DNS 查询隐私 — jedisct1 · 2026-09-07
- QuixiAI 发布 QuixiMath-1B：带结构化解题步骤的数学推理数据集 — QuixiAI · 2026-09-07
- kalomaze 提出迁移学习新概念模型：跨域技能组合是泛化关键 — kalomaze · 2026-09-07
- 实测警示：7 个 LLM 评审集成高一致性反而产出假阳性结果 — IanArawjo · 2026-09-07