RAG 权限控制零泄露仍出错:越权用户拿到带引用的自信错误答案

trohit92 · reddit · 2026-11-21

一个值得警惕的 RAG 安全案例研究。作者搭建了带权限标签的测试环境:Qwen2.5-1.5B + 混合检索(bge-small + BM25 + RRF)+ NLI 事实性检查,10 份带密级的合成企业文档在检索层过滤,机密内容永远进不了 prompt。

结果:0 次泄露,但出现了更隐蔽的失败模式——

作者测试了检索相似度门槛,发现它只能拦住一种情况:貌似合理的错误答案与合法问题得分相当。小规模评测(16 个问题),属案例研究而非统计结论。

开放问题:当「正确文档存在但用户无权查看」时,该告诉用户还是静默拒绝?

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →