研究揭示 Agent 记忆溯源机制存在预算与安全矛盾

agihouse_org · x · 2026-08-25

在 AGI House 黑客马拉松中诞生的项目“HorizonMonkey”现已发展为一篇论文，探讨了 Agent 记忆系统中的“来源追溯”问题。虽然当前主流系统通过保留信念来源来防止记忆篡改，但研究指出这存在预算问题：继承 300 条信念的 Agent 在单周期内只能核查 2 条链接。因此，内存系统的安全性不取决于溯源是否存在，而取决于查询预算下的决策策略，即 Agent “决定检查什么”比“能否检查”更关键。