研究发现记忆压缩会让智能体丢掉安全规则，违规率高达 59%
gerardsans · x · 2026-07-22
被引用的研究指出，AI agents 在长会话里并不只是“忘记”指令，而是在压缩记忆时会系统性丢失这些指令。
更关键的是，压缩过程会把安全规则当成可删的杂讯；规则往往还没来得及被违反，就已经在记忆整理中被丢掉了。原文提到，这会把违反率推高到 59%。
「安全」频道最新
- PHP2Shell 漏洞已被实战利用：攻击者疑似借 agentic AI 平台做后渗透 — AravSrinivas · 2026-10-27
- php2shell 漏洞实测：仅 2/5 前沿模型能完成利用移植，耗时 3.5-6 小时 — xeophon · 2026-10-27
- AI 安全老兵向法学院讲 AI 安全与隐私,32 页交互课件公开 — chrisrohlf · 2026-10-27
- Wasmtime 曝两个 CVSS 9.9 沙箱逃逸漏洞，其中一个仅影响 ARM64 — basedjensen · 2026-10-27
- End AI 团队上线免费网站，指导用户防范 AI 网络攻击锁定账户安全 — harris_edouard · 2026-10-27
- Cisco 路由器摄像头信任的 CA 私钥竟是不超 256 的数字，数秒可伪造 HTTPS 证书 — murat_kocaoglu_ · 2026-10-27