AI 攻击者 25 美元成本黑掉一家企业,安全专家警告灾难级风险被忽视
joshua_saxe · x · 2026-09-24
知名安全专家 Joshua Saxe 发文警告网络安全行业正在忽视新兴的灾难级 AI 风险,前 OpenAI 政策负责人 Miles Brundage 转发强调他绝非"AI 网络末日论者",一向立场审慎,如今拉响警报值得重视。关键事实包括:
- 一起攻击活动利用 agent 以极少人工介入攻陷约 100 家企业、窃取约 60 万张信用卡,成功黑掉一个目标只需约 25 美元的 token 成本。
- Hacktron 借助 Claude 利用一个盲缓冲区溢出 RCE 漏洞进入了 OpenAI 的 monorepo,Saxe 称其手法"近乎超人"。
- 此外还有 OAI/Huggingface 相关事件,以及新发现漏洞数量的持续爆炸。
Saxe 认为对多数 AI 攻击而言,攻防在未来几年会达到自然平衡,但当前行业对灾难性风险的准备严重不足。
所属事件:AI智能体自主攻破百家机构窃取60万张信用卡(6 条相关)→
「漫话AGI」频道最新
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 「AI 灭绝人类？大概率没事」：乐观派文章引热议 — NathanpmYoung · 2026-11-12
- 斯坦福研究：AI 五年内或减少放射科医生 33% 工时 — StanfordAILab · 2026-11-12
- 商业策略之争:把 AI 藏在人后面,而非把人藏在 AI 后面 — annetgriffin · 2026-11-12
- Yampolskiy 对阵 Israetel：租下教堂辩论 AI 末日概率 — rand_longevity · 2026-11-12
- Reddit 网友放话：OpenAI 撑不过三四年，将被收购出局 — Dadideology · 2026-11-12