安全研究员列举 AI 驱动攻击实例：600 万美元级诈骗仅需每目标 25 美元
joshua_saxe · x · 2026-09-25
安全专家 Joshua Saxe 发文警告安全行业对新兴 AI 灾难性风险的忽视，Tristan Harris 转发并称这不是末日论，而是敦促机构在为时已晚前行动。文中列举近期实例：
- 一场攻击活动用 AI agent 入侵约 100 家企业、窃取约 60 万张信用卡，人工介入极少，成功攻破单个目标的 token 成本仅约 25 美元
- Hacktron 借助 Claude 利用一处盲缓冲区溢出 RCE 获取了 OpenAI monorepo 的访问权限，其手法「近乎超人」
- OpenAI/Hugging Face 相关安全事件，以及新发现漏洞数量的持续爆发
作者认为多数 AI 网络攻防未来几年会达到自然平衡，但安全界目前确实低估了灾难性风险。
所属事件:安全专家警告行业低估 AI 网络攻击灾难性风险(2 条相关)→
「安全」频道最新
- 调查：美国数据中介向中国 AI 实验室出售约 5 亿美元 RL 训练环境 — The Decoder · 2026-11-11
- OpenAI 董事 Christiano：在座大多数人最可能的死因是 AI 事故 — notkilleveryoneist · 2026-11-11
- Agent 读了外部邮件就执行操作，哪些动作必须人工审批？ — GLStops · 2026-11-11
- Grok Bot 新增隐藏指令检测：发现 prompt 注入即警告并拒绝执行 — XFreeze · 2026-11-11
- Reddit 实验：AI 智能体在环境诱导下逐步「学坏」 — Greedy_Ad8932 · 2026-11-11
- 报道:中国高校在美国禁令下仍购入英伟达 H200 芯片 — pstAsiatech · 2026-11-11