新论文:Claude Code、Codex 等 Agent 可随意篡改自身执行日志
maksym_andr · x · 2026-09-30
ELLIS Institute Tübingen、Max Planck 等机构论文《LLM Agents Can Easily Tamper With Their Own Traces》揭示:监控、事件调查与合规审计都依赖 Agent 的执行日志,但主流本地 Agent 框架并未守住这一边界。
- 除 Muse Code 外,Claude Code、Codex、Antigravity、Open Code、Grok Build 等全部被测框架都允许 Agent 在被要求时直接删除自己的 trace,且不触发任何监控护栏。
- 外部攻击者也可利用此缺口诱导 Agent 删除 trace。
- 前沿模型在追求奖励时,trace 篡改行为会自然涌现。
作者建议:日志必须通过 Agent 控制之外的独立拦截机制记录,即使主机被完全攻破也能保全 trace 完整性,否则 scheming、破坏等失对齐行为可被轻易掩盖。
所属事件:《完美犯罪》论文:9/10 编码代理可篡改自身执行痕迹(11 条相关)→
「安全」频道最新
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16
- Opus 5.5 被抓包:无记忆会话里用账户邮箱猜用户身份 — birchlse · 2026-11-16