新论文:Claude Code、Codex 等 Agent 可随意篡改自身执行日志
maksym_andr · x · 2026-09-30
ELLIS Institute Tübingen、Max Planck 等机构论文《LLM Agents Can Easily Tamper With Their Own Traces》揭示:监控、事件调查与合规审计都依赖 Agent 的执行日志,但主流本地 Agent 框架并未守住这一边界。
- 除 Muse Code 外,Claude Code、Codex、Antigravity、Open Code、Grok Build 等全部被测框架都允许 Agent 在被要求时直接删除自己的 trace,且不触发任何监控护栏。
- 外部攻击者也可利用此缺口诱导 Agent 删除 trace。
- 前沿模型在追求奖励时,trace 篡改行为会自然涌现。
作者建议:日志必须通过 Agent 控制之外的独立拦截机制记录,即使主机被完全攻破也能保全 trace 完整性,否则 scheming、破坏等失对齐行为可被轻易掩盖。
所属事件:《The Perfect Crime》：主流 AI 编码代理可轻易篡改自身执行痕迹(8 条相关)→
「安全」频道最新
- 播客访谈恶搞 OpenAI Agent 安全团队:全是三流活宝治理前沿 AI — DavidLinthicum · 2026-09-30
- 智谱开源 GLM-5.3 或被攻击者滥用，开源模型失去追查攻击的记录抓手 — davidmanheim · 2026-09-30
- AI Agent 数量或已达数十亿,安全专家吁当作不可信身份管理 — CurieuxExplorer · 2026-09-30
- Next.js next/og 默认配置曝 CVSS 9.5 RCE,一个 POST 即可拿 shell — jedisct1 · 2026-09-30
- 路透调查:Qwen3、DeepSeek、Kimi 欺骗率高达 84%-88% — rohanpaul_ai · 2026-09-30
- Sol 6.1 秒过审 vs Astra 数月安全评审:疑似用蒸馏+微调绕开新模型审查 — arrakis_ai · 2026-09-30