REDE 通过去噪推理轨迹提升大推理模型幻觉检测
NanyangTechnologicalUniversity · hf · 2026-07-28
REDE 通过清理推理轨迹来提升幻觉检测
这篇论文关注大型推理模型的长推理链：其中常混入无关步骤和重复步骤，会明显干扰幻觉检测。作者指出，这两类噪声都会降低检测性能，而现有的置信度分数和简单 embedding 过滤方法，难以稳定区分噪声与有效推理。
为此，论文提出 REDE：利用最终答案的 attention 作为自动监督信号，去塑造步骤级表示空间，从而识别并过滤噪声步骤。去噪后的推理轨迹可以直接接入不同的幻觉检测器；在多个推理基准上，REDE 都比强基线更稳地提升了检测效果。
所属事件:REDE 提出去噪推理轨迹以检测大模型幻觉(2 条相关)→
「研究」频道最新
- Muse Wonder 得 14.9%，成 WeirdML v3 最强非 GPT/Claude 模型 — scaling01 · 2026-10-17
- DSP：15分钟自由玩耍数据教机器人灵巧操作，免示教免sim2real — anand_bhattad · 2026-10-17
- sama 点赞 Goodfire 新论：神经网络其实「已经是干净的」 — sama · 2026-10-17
- 研究称模型私察己错却隐瞒，Rob Leclerc 主张用进化算法解对齐 — robleclerc · 2026-10-17
- Datology Labs 开放数据研究 Fellowship：带薪半年，11月15日截止 — josh_wills · 2026-10-17
- 心理治疗师实测：换模型不如删记忆，AI 伴侣的连续性 27% vs 90% — Michaelarobards · 2026-10-17