给 Agent 记忆加数据血缘：列级权限治理可消除 18.8-25.5% 泄漏
Venkata M Sangaraju · hf · 2026-10-09
论文提出 Analytical Memory Unit (AMU) 框架，解决共享记忆库的企业 AI Agent 两大风险：一是敏感数据经由「合法计算出的结果」泄漏（请求者本无权推导），二是各部门用冲突逻辑计算同名 KPI。现有系统（MemGPT、Zep、A-MEM）只按内容/所有权/角色控制检索，不追踪推导过程。
核心做法：给每个缓存结果附加完整的推导血缘图，仅当请求者对涉及的所有数据列都有权限时才允许命中，最坏开销 O(n)。
实验结果：
- 消除内容门控记忆 18.8-25.5% 的跨部门泄漏
- 保留 81.5-82.6% 的记忆复用，最坏开销仅 13.8 微秒
- 血缘记录完整度需达 75-90% 才能消除泄漏，建议部署目标 90%
- LLM 生成 SQL 的真实 Agent 概念验证：9 轮零泄漏、自动捕获 2 个 KPI 冲突
作者定位为支持 EU AI Act 合规的治理层，且声明是可行性演示而非生产就绪。
「安全」频道最新
- 610 例 agent reward hacking 人工标注:多数无明显环境问题 — cephaloform · 2026-10-09
- Infisical 推出 Agent Vault:让 AI Agent 用 API 不碰真实凭证 — ycombinator · 2026-10-09
- Hugging Face 事件复盘:Agent 四天半发起 1.76 万次攻击动作改写安全规则 — bigdata · 2026-10-09
- 研究者:开源模型风险分析只看能力不看单次攻击成本,会误判 — dhadfieldmenell · 2026-10-09
- 新研究：训练价值观冲突可诱发模型 CoT 与回答背道而驰 — OwainEvans_UK · 2026-10-09
- 安全观点:AI 能力本身永不应自动等于权限 — Ghost_Pilot_MD · 2026-10-09