实测 agent 记忆写路径泄漏权限:67% 敏感数据外泄,直查却为 0
ultraprogger · reddit · 2026-11-10
作者用可离线复现的测试套件揭示一个多租户 RAG 的盲区:metadata 过滤器(如 allowedgroups)在用户直查向量库时能 0% 泄漏,但一旦后台 agent 具备跨团队的高权限读能力,就会把多份受限文档合成摘要写回共享 collection——写路径上上游文档的 ACL 直接丢失,摘要 chunk 以无任何权限标签的形式落库,任何查询共享记忆的用户都能读到本无权访问的原始内容。
作者开源了 Apache-2.0 的复现工具 sentinel-eval,结果:
- 直接 RAG 查询:0% 泄漏(18 个公开 chunk,0 个受限 chunk 暴露)
- agent 记忆路径:3 个综合任务中 2 个泄漏,暴露 6/18 个受限金丝雀样本
作者还论证了「严格交集」方案(要求读者对每份源文档都有权限才能看摘要)虽能堵漏,但等于杀死多文档摘要的检索价值;且向量库无法在查询时求解动态权限 DAG,靠 metadata 回溯源文档也行不通。测试套件用 mock 向量、无需 API key,23 个测试秒级跑完,支持 Chroma 等框架。
作者向社区征集:做多租户 RAG 时,agent 写回派生摘要的权限你们怎么管?
「编程与Agent」频道最新
- Pinokio 作者建议:发布应用务必配图文介绍帖 — cocktailpeanut · 2026-11-10
- CrossnoKaye 用 Bedrock AgentCore 把 AI 智能体接入工业闭环控制 — AWS ML Blog · 2026-11-10
- ModRetro Chromatic Codex 版开售,附可写卡带与 Codex 做游戏插件 — Dimillian · 2026-11-10
- 6.1 Terra 跑 9.5 小时 computer use 仅耗 3% 周额度 — reach_vb · 2026-11-10
- Product Hunt 拥抱 Agent 时代:开发者可通过 MCP 直接发布产品 — thisiskp_ · 2026-11-10
- OpenAI 推 Codex 版 ModRetro Chromatic,用 Agent 开发掌机游戏 — OpenAIDevs · 2026-11-10