搜索代理学会拒答以降幻觉
_reachsumit · x · 2026-07-14
## 让搜索代理学会“拒答”以降低幻觉 阿里巴巴提出一种面向搜索代理的训练方法：通过**拒答感知强化学习**（abstention-aware reinforcement learning），让代理在不确定时学会**动态拒答**，而不是强行编造答案。 核心思路是： - 针对搜索代理的幻觉问题进行训练 - 通过动态校准 **refusal reward**，鼓励模型在不可靠时 abstain - 目标是提升搜索代理回答的可靠性与稳健性 这类方法更关注代理在真实检索/回答流程中的行为控制，而不是单纯提升生成能力。