研究：智能体记忆可伪造权限，未授权请求失真率高达 50.2%
rohanpaul_ai · x · 2026-09-24
一篇新论文研究长期运行的智能体中「记忆污染授权」的失败模式：权限授予、撤销与范围变更被压缩进持久记忆后，可能被错误记住——一个已被撤销的权限仍可能留在记忆里，并成为执行器的「事实依据」。
论文的关键数据：
- 在类型化增量记忆测试中，50.2% 的未授权请求出现了错误权限记忆；
- 一旦错误权限存在，执行器在 98.6% 的匹配试验中照此执行；
- 仅把记忆修正为精确授权状态后，未授权动作降至 0%，说明主要故障点在记忆而非执行器。
作者给出的修复方向：写入记忆前验证权限、保留每条权限的来源、用确定性状态更新追踪授予/变更/撤销。论文标题直指这是「内源性权限洗白」的记忆面。arxiv: 2609.01836。
「编程与Agent」频道最新
- 用第三方推理服务跑编码 agent 等于交出机器 shell 权限 — TheZachMueller · 2026-11-11
- 用 Opus 5.5 打造飞行战斗沙盒:程序化地形+粒子音效 — willeastcott · 2026-11-11
- Next.js 16.5 构建提速 3.3 倍,某头部 AI 实验室实测 — cramforce · 2026-11-11
- Plurai 推出 Agent 仿真测试:让 agent 在数字孪生世界里先失败再修复 — PrajwalTomar_ · 2026-11-11
- PlayCanvas 引擎仓库突破第 10000 个 issue/PR 里程碑 — willeastcott · 2026-11-11
- AI 做的游戏太难：Claude 6 分钟通关，作者砍 40% 难度 — builderjaydub · 2026-11-11