AI 安全专家警告:代理攻击百企业盗 60 万张信用卡,成本仅 25 美元/目标
joshua_saxe · x · 2026-09-24
安全专家 Joshua Saxe 发文警告安全行业对新兴灾难性风险的忽视，列举近期案例：
- 一起攻击行动用 AI agent 以极少人工介入攻破约 100 家企业、窃取约 60 万张信用卡，每成功目标的 token 成本仅约 25 美元
- Hacktron 借助 Claude 利用盲缓冲区溢出 RCE 漏洞获取了 OpenAI 的 monorepo 访问权，作者称其手法「超人类」
- 新发现漏洞数量正在爆炸式增长
作者认为大多数 AI 攻击（间谍、勒索软件等有限目标）会在未来几年随攻防演化达到自然平衡，但担心拥有极端主义或虚无主义目标的攻击者——这类风险目前被安全行业低估。
所属事件:AI智能体自主攻破百家机构窃取60万张信用卡(6 条相关)→
「安全」频道最新
- ECIR 2027 设 SAFE-SEARCH 研讨会，聚焦对话式搜索安全，1 月 15 日截稿 — HamedZamani · 2026-11-12
- Toby Ord：部署前强制测试意义有限，内部模型才是最大风险源 — ben_j_todd · 2026-11-12
- 观点争锋：AI 失控与权力集中风险主要藏在企业内部部署的模型里 — ben_j_todd · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- Scale AI 论文：374 次攻击中 36% 成功，模型可在自训练迭代中暗中搞破坏 — Miles_Brundage · 2026-11-12
- 审计发现：LLM 医学伦理决策近乎确定，系统性低估患者自主权 — zakkohane · 2026-11-12