RAG 权限过滤缺陷导致跨客户数据泄漏
Revolutionary-Ad1625 · reddit · 2026-07-08
一位开发者复盘了其 AI 助手因 RAG 权限过滤缺陷而总结出属于其他客户文档的事故。问题根源是架构性的:权限过滤(workspace、owner、visibility、role、是否归档等条件)由应用代码内手写的布尔逻辑实现,在三个功能里各自长出略有不同的副本,几乎从未测试,却实际上充当了安全边界。 该失败模式有两个棘手之处:其一,它不会崩溃——遗漏一个条件只会让助手用用户本不该看到的数据,生成流畅且自信的回答,没有堆栈报错或告警,最终由客户发现;其二,事后无法举证——安全团队要求展示"上季度助手可能访问了哪些文档",而日志只记录了应用请求的内容,并未记录每条查询实际生效的过滤,二者是截然不同的两份东西。作者认为整个行业都在热路径里手写、且写得很糟地重建这层过滤。