Google 论文:少数复读查询的投毒文档即可重创 RAG

Google 发表 arXiv 论文《Reliability Stress Testing of RAG Retrieval under Query-Relevant Corpus Poisoning》(作者含 Janet Sung、Kainan Zhou 等),对 RAG 语料投毒进行压力测试。核心发现是投毒的关键在于文档复述用户查询,附加攻击载荷几乎不影响攻击效果;仅需约 5 篇复读查询的文档即可显著污染 RAG 检索结果,凸显 RAG 系统在语料投毒下的可靠性风险。

2026-11-06 ~ 2026-11-06 · 2 条相关