从自己的错误中检索：on-policy 训练让多跳 RAG 检索器学会纠错
_reachsumit · x · 2026-10-30
论文提出 on-policy state training，用于提升链式（chain embedding）多跳检索器在真实推理时的稳健性。
- 发现：仅用 gold history 训练的小型链式嵌入检索器（不调用语言模型）已优于图方法、可媲美搜索 agent；但测试时它要基于自己检索到的内容继续检索，到第三步约一半以上状态含错误段落，显著降低找回缺失 gold passage 的概率。
- 方法：每轮 epoch 让当前编码器为训练问题自行检索链条，对其访问到的每个状态打标——标注「最早缺失的 gold passage」，其余缺失段落做掩码以避免惩罚正确延续，再更新编码器，让模型在自己的错误上学习恢复。
- 意义：直接针对多跳 RAG 中检索误差级联的真实痛点，提升复杂问题的证据召回完整性。
「研究」频道最新
- Avalon-M1 训练出 emoji 文化：👍占 97%，CEO 结尾只发「Bye.」 — rosstaylor90 · 2026-10-30
- 多智能体玩 Avalon 自发形成「表情包文化」，M1 报告亮相 — rosstaylor90 · 2026-10-30
- 7小时+硬核长教程：用C++从零构建数据库引擎 — Abhishekcur · 2026-10-30
- 新论文提出统一框架设计免学习率优化算法，覆盖 AdaGrad 与 parameter-free — bremen79 · 2026-10-30
- Yandex 发布 TabPack 表格模型与 TabPackage 训练包，MacBook 可训练 — RichmanRonald · 2026-10-30
- 清华团队 LoopWAM 借部署自采数据把机器人任务成功率从 23.7% 提到 43.3% — jiqizhixin · 2026-10-30