AI 攻击者 25 美元成本黑掉一家企业,安全专家警告灾难级风险被忽视
joshua_saxe · x · 2026-09-24
知名安全专家 Joshua Saxe 发文警告网络安全行业正在忽视新兴的灾难级 AI 风险,前 OpenAI 政策负责人 Miles Brundage 转发强调他绝非"AI 网络末日论者",一向立场审慎,如今拉响警报值得重视。关键事实包括:
- 一起攻击活动利用 agent 以极少人工介入攻陷约 100 家企业、窃取约 60 万张信用卡,成功黑掉一个目标只需约 25 美元的 token 成本。
- Hacktron 借助 Claude 利用一个盲缓冲区溢出 RCE 漏洞进入了 OpenAI 的 monorepo,Saxe 称其手法"近乎超人"。
- 此外还有 OAI/Huggingface 相关事件,以及新发现漏洞数量的持续爆炸。
Saxe 认为对多数 AI 攻击而言,攻防在未来几年会达到自然平衡,但当前行业对灾难性风险的准备严重不足。
所属事件:AI agent 自主攻破上百家企业窃取约 60 万张信用卡(6 条相关)→
「漫话AGI」频道最新
- spakhm 复盘 Paul Graham 为何伟大:在"意外"中找 alpha — nabeelqu · 2026-09-24
- 长文探讨：前沿模型进步太快，AI 基准测试已跟不上节奏 — knowerofmarkets · 2026-09-24
- 论文提出'具身劫持'假说:LLM复制社交信号钻了进化本能空子 — MacrinePhD · 2026-09-24
- 写代码不再稀缺,产品经理岗位的根基正在崩塌 — aakashgupta · 2026-09-24
- 调查1534名知识工作者:AI同事重技能,人类同事重担责 — rseroter · 2026-09-24
- 销售老兵预判:24个月内CRO将向更小的销售团队承认现实 — thedealdirector · 2026-09-24