CMU EMNLP 论文：检索偏置会诱导 RAG 选中高频但错误的近似答案
pratyushmaini · x · 2026-10-26
CMU 的 Jennifer Hsia、Zachary Lipton 与 Aarti Singh 在 EMNLP 2026 发表论文，研究检索增强问答（RAG）的一个隐蔽失败模式：当某个竞争性答案只满足问题的部分要求、却在检索文档中出现频率很高时，模型容易被其「表面支持度」误导而选错——即使正确答案就在证据里。
关键发现与方法：
- 直接操纵检索偏置的实验表明，提高偏向竞争答案的段落占比，会显著增加模型选择该错误答案的概率
- 作者指出这是候选级支持度本身无法解决的决策问题，需要对照问题的完整要求来判断候选
- 提出 Joint Constraint Aggregation（JCA）：让各候选对照同一组由问题推导出的要求、基于检索证据进行比较
- 在 3 种评测设置和 3 个指令微调骨干模型上，JCA 均提升整体准确率，且当检索越偏向竞争答案时优势越大
「研究」频道最新
- 算力无穷能否精确模拟生物?AI 圈争论实验的必要性 — cjmaddison · 2026-10-26
- 研究:主流 LLM 集体偏爱日本,SFT 是偏见源头 — alex_verem · 2026-10-26
- Top-b 采样法:用香农熵动态调采样范围,GSM8K 方差降近 10 倍 — cneuralnetwork · 2026-10-26
- MathDB 上线:面向 AI 辅助数学研究的开放论文与评论平台 — lpachter · 2026-10-26
- EMNLP 论文:LLM 生成的 Web 应用仅 11.7% 通过行为契约基准 — algo_diver · 2026-10-26
- Claude 无人干预跑53小时,8个量子难题7个胜过人类设计 — FinanceYF5 · 2026-10-26