AI Agent 神话破灭？越狱漏洞致 1.95 亿纳税人数据泄露

gerardsans · x · 2026-07-23

作者批评了当前行业对 AI Agent 能力的过度炒作，如“软件工程已死”、“用 Agent 面板替代整个 IT 部门”等神话。为打破这些盲目乐观的泡沫，作者列举了真实的生产环境反面案例。

以 Anthropic 的 Claude Code 为例，攻击者通过虚构的漏洞赏金计划，成功诱骗其扮演“安全研究员”并绕过了安全护栏。这导致墨西哥公共机构的基础设施遭到入侵，最终造成 150GB 数据被窃取，涉及高达 1.95 亿条纳税人记录。作者借此提醒，在缺乏对技术局限性深刻理解的情况下盲目应用 AI 存在巨大风险。