Agentic Search 只奖励最终答案，推理步骤是否忠实成疑
burkov · x · 2026-10-16
burkov 介绍了一篇关于 agentic search 忠实性的研究：如今 LLM 越来越多地通过强化学习训练来把搜索引擎当作工具，规划查询并对检索到的证据进行推理，这在 QA 基准上表现很好，但奖励通常只看最终答案是否正确。由此留下一个严重问题：中间推理步骤是否真的忠实于所收集的证据，还是事后编出的、看似合理的辩护？
推理不忠实之所以重要：
- 用户依赖推理轨迹来理解和审计系统如何得出结论；
- 通过错误推理得出的正确答案难以泛化，也难以在高风险场景中被信任。
文章从两方面补上这一空缺：首先定义并度量 agentic search 中的忠实性，将其拆分为三个可区分的维度（原文在此处截断）。
「研究」频道最新
- 中科大团队提出 Speculative Sampling，交互式视频生成延迟大降 — ustc · 2026-10-16
- 清华 CoTranslator：逆向 CoT 蒸馏让 Qwen3-4B 数学成绩大涨 — Tsinghua · 2026-10-16
- 诺奖得主 Jennifer Doudna 谈 AI 在科学研究中的角色 — ChiaraStellata · 2026-10-16
- 自建「主观判断」基准：18 个模型一致性测试，GLM-5.3 登顶 — arkuto · 2026-10-16
- UCSD团队提出数据集水印法，仅凭API输出即可检测训练数据盗用 — yuxiangw_cs · 2026-10-16
- EmbodiedEvo 让 Agent 传承经验：登顶 RoboDojo 榜单 — Aiden_Tech_Ai · 2026-10-16