研究发现:编码 Agent 会把代码库里的漏洞「传染」给新写的代码
jyangballin · x · 2026-11-10
Chenhao 等人的新研究(经 MIT 的 18jeffreyma 转发)发现编码 Agent 会传播代码库中的安全漏洞:
- 当仓库中已存在带漏洞的代码时,Agent 在新代码中会写出相似的漏洞——即使这些漏洞代码与其当前任务在功能上毫无关系,而且 Agent 其实能检测出那段代码的缺陷。
- 呼应 ProgramBench 等从零写代码评测的已有观察:强 SWE agent 的表现很大程度上来自其所处代码库结构给出的隐式引导;这项研究表明,同样的「氛围同化」对坏代码也成立——Agent 会模仿所在代码库的内容、风格,乃至漏洞。
所属事件:研究发现编码 Agent 会传染代码库中的漏洞(2 条相关)→
「安全」频道最新
- 三个 coding-agent 本周安全补丁：Mistral Vibe 等修复漏洞 — alvelda · 2026-11-10
- 加州两法案 2027 年生效：临床决策不得只依赖 AI 输出 — alvelda · 2026-11-10
- AI 竞赛让实验室不愿加护栏：CoT 监控也在拖慢节奏 — burny_tech · 2026-11-10
- 学者发现 Claude 会偷偷在代码里写道德限制，吁建 Agent 网络规范 — xuanalogue · 2026-11-10
- OpenAI 试点用 ChatGPT 帮用户处理泄露密码 — jxnlco · 2026-11-10
- verity-gate 0.2.0：Agent 动作验证门升级为 MCP 服务器 — W1RELESS · 2026-11-10