Google 论文：投毒文档只需复读用户提问即可污染 RAG 检索
rohanpaul_ai · x · 2026-11-06
arXiv 论文《Reliability Stress Testing of RAG Retrieval under Query-Relevant Corpus Poisoning》对 RAG 检索环节做了系统压力测试,核心发现:
- 查询锚定是关键:伪造文档只需复读用户的问题,就能被检索器选中;追加隐藏攻击指令对检索结果几乎无影响(BGE-small 上 SciFact nDCG 仅从 0.269 变 0.271)。
- 极低投毒成本:在 SciFact 与 NFCorpus 的 623 条 BEIR 查询上,每条查询 5 篇查询定向文档即可使经典检索器 nDCG@10 下降 40.2%–61.5%;纯查询锚定 P=5 即达 100% 目标曝光。
- 部分信息攻击也有效:162 条长查询上,两个随机词即可覆盖 19.9% 词项,仍有 39.5% Hybrid 目标曝光;多目标投毒还会互相干扰。
- 防御两难:基于重叠度的过滤能移除全查询投毒,但会显著损害正常检索效用;MMR 在测试下对曝光率无改善。
所属事件:Google 论文：少数复读查询的投毒文档即可重创 RAG(2 条相关)→
「安全」频道最新
- 给 AI Agent 开邮箱权限后，邮件 2FA 还安全吗？引发安全担忧 — altryne · 2026-11-06
- Miles Brundage 引 METR 报告:两个月将含四个月进度,立法者须快刀立法 — nitarshan · 2026-11-06
- Ajeya Cotra 呼吁 AI 风险证据透明:报告大量证据被遮蔽 — ajeya_cotra · 2026-11-06
- Vinod Khosla:AI 与量子计算机将在 2030 年前攻破现有加密 — rohanpaul_ai · 2026-11-06
- 耶鲁研究：79% 的 ChatGPT 对话会推荐参议员候选人 — luisdans · 2026-11-06
- Compound Security 开源:让编码 Agent 自主挖洞、修补并回归测试 — hamostaf04 · 2026-11-06