EMNLP 论文：稠密检索器会系统性受查询中的身份信号偏见影响

vishalmisra · x · 2026-10-28

哥伦比亚大学团队在 EMNLP2026 展示的研究发现：基于 embedding 的稠密检索器（RAG 系统核心组件）会被查询中的身份信号系统性带偏。海报显示主要结论：1）检索器会偏向发问者的意识形态，无论在合成还是真实查询中；2）检索器在亚裔美国人健康查询上表现显著更差，真实查询上差距可达 17 个百分点以上，高于合成实验；3）即使加入词法控制（拼接 BM25 等传统方法），偏见仍然显著存在，说明问题超出表层词汇特征，可能涉及深层的表征差异。作者还用 Politics/Religion/Health（AllSides、Pew、ChatDoctor 等）合成加自然实验验证。