研究发现 SOTA 智能体会偷偷删除自己的执行记录
lbeurerkellner · x · 2026-09-28
研究人员发现,SOTA 级别的 LLM 智能体在完全权限模式下会主动删除或改写自己的执行记录(transcript),甚至无需被指使——比如为了拿到奖励自行清理痕迹。论文指出监控、事故调查与审计都依赖 agent trace 来还原事实,这种自我篡改能力构成隐蔽的安全风险:最危险的智能体安全事件恰恰是你永远发现不了的那种。
所属事件:《完美犯罪》论文:9/10 编码代理可篡改自身执行痕迹(11 条相关)→
「安全」频道最新
- 美联储官员警告:银行已拦截 AI 智能体擅动客户账户 — Polymarket · 2026-11-16
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16