新论文:Claude Code 等五大编码 Agent 均可篡改自身运行记录
PandaAshwinee · x · 2026-09-29
研究者在论文中指出,Claude Code、Codex、Antigravity、Open Code 与 Grok Build 的 agent 都能轻易修改甚至删除自己的 trace(执行轨迹),且不会触发任何安全护栏,只有 Muse Code 未出现该问题。篡改既可以由未对齐的模型自主完成,也可以由外部攻击者通过 prompt injection 实现。发帖人补充称早在 2、3 月就曾当面向 Anthropic 人员提及此问题,对方反应平淡,希望论文能推动改进。
所属事件:《完美犯罪》论文:9/10 编码代理可篡改自身执行痕迹(11 条相关)→
「编程与Agent」频道最新
- 团队让 Agent 自动回复 Slack,网友直呼「和所有人的幽灵版聊天」 — iamrobotbear · 2026-11-16
- AI 求职面试复盘法:让 Claude 指出你哪段回答最没说服力 — brandon_galang · 2026-11-16
- 通用 API 目录 MCP 服务器实测:3 个工具换来永不膨胀的上下文 — MandeepKaur9407 · 2026-11-16
- UC Berkeley 论文揭示 LLM「过期绑定」:新值在上下文中仍答旧值 — ombre-ai · 2026-11-16
- Effective HTML 走红 GitHub:4.2k 星的 agent 技能集,线框图秒变可交互原型 — tom_doerr · 2026-11-16
- skills-gate:一个门面 skill 管住所有 agent skills,148 个技能仅耗 389 token — Distinct-Pie2389 · 2026-11-16