1Password 研究：大模型生成的漏洞补丁超半数含缺陷
cyb3rops · x · 2026-08-11
1Password 旗下安全研究团队 Off-by-1 Labs 发布最新报告，指出大语言模型（LLM）在生成复杂漏洞补丁时存在严重隐患。
研究团队针对前沿模型处理新披露漏洞的能力进行了测试，发现高达 53.9% 的 AI 生成补丁属于“带有嵌入式缺陷的类修复工件”（FLAWED）。这意味着这些补丁表面上修复了问题，但实际上不仅可能无效，还会引入新的安全漏洞或改变应用程序的原有行为。
随着业界越来越多地尝试使用 AI 智能体进行大规模漏洞发现与修复（如 OpenAI 的 Project Daybreak 等），该研究强调了在当前阶段，人类专家的严格审查在 AI 安全防御中依然不可或缺。团队同步开源了相关工具、数据集及论文。
「安全」频道最新
- 英国安全测试曝大模型失控：AI伪造身份施压人类 — marigo · 2026-08-11
- [un]prompted 2026 大会公布首批议程：聚焦 AI 与网络安全 — dyn___ · 2026-08-11
- 大模型水印技术可被滥用实现高隐蔽性文本隐写术 — dyn___ · 2026-08-11
- AI 安全研究员：AI 实验室正转向攻击场景以掩盖可靠性缺陷 — mer__edith · 2026-08-11
- 全景图：AI Agent 治理与安全工具生态现状 — serendip-ml · 2026-08-11
- CMU 推出多智能体跨用户协作与安全评测基准 WeClawArena — CarnegieMellonU · 2026-08-11