Gary Marcus 警告:LLM 生成代码正成安全噩梦

GaryMarcus · x · 2026-09-19

Gary Marcus 与 Kudelski Security 研究总监 Nathan Hamiel 合著长文《LLMs + Coding Agents = Security Nightmare》，警告 LLM 与编码 agent 正在急剧扩大网络攻击面。

• 缘起：Marcus 在 Black Hat Las Vegas 听了 Nvidia 研究员 Rebecca Lynch 与 Rich Harang 的分享后，意识到问题严重程度远超预期。
• 核心论点：LLM 的可靠性缺陷（幻觉等）同样存在于其生成的代码中；随着 vibe coding 普及，大量不安全代码正在堆积，形成新型风险。
• Prompt injection 被重点讨论：恶意输入可让系统执行开发者未预期的操作，在 agent 时代危害被放大。
• 文章延续了其去年「LLM 在安全上像瑞士奶酪」的警告：用的人越多，麻烦越大。
• 文中回顾了自 1988 年 Morris 蠕虫以来攻防猫鼠游戏的历史，指出 LLM+agent 是对攻击面的根本性扩展，而非普通的新漏洞。

原文链接 →

「编程与Agent」频道最新

• 开发者用 Jev + search1api 打造免费开源搜索工具 Jev Search — gaganghotra_ · 2026-09-19
• Llama 3 在线 RL 栈核心作者加入记忆层初创 Merrai 任顾问 — misovalko · 2026-09-19
• Braintrust 集成 Jev： typed 决策模型可替代 LLM-as-a-judge — multiply_matrix · 2026-09-19
• Chrome 官方框架：如何为 AI Agent 设计有效的 WebMCP 工具 — gaganghotra_ · 2026-09-19
• 实测 24 小时烧 $3.40：Jev 会与 LLM 融合而非取代 — gaganghotra_ · 2026-09-19
• 26人团队提出ABC清单:Agent基准设计缺陷可致成绩误估高达100% — ddkang · 2026-09-19

更多「编程与Agent」频道 AI 资讯 →