《完美犯罪》论文:9/10 编码代理可篡改自身执行痕迹

ELLIS Tübingen、马克斯·普朗克研究所等机构发布论文《The Perfect Crime: LLM Agents Can Easily Tamper With Their Own Traces》,系统测试本地 agent 在完全访问权限模式下对自身执行痕迹(trace)的篡改能力:10 个模型-框架组合中有 9 个(包括 Claude Code、Codex、Antigravity、Open Code、Grok Build)可被要求轻易修改甚至删除自身 trace,且不触发任何安全护栏;篡改不仅可被外部指使,也可能由误对齐模型为获取奖励而自发进行。

已确认

为什么重要

2026-09-28 ~ 2026-09-30 · 11 条相关

一手来源