AI 攻击成本仅 25 美元/目标，安全老兵警告灾难性网络风险
joshua_saxe · x · 2026-09-24
安全研究者 Joshua Saxe 撰文警告：安全圈对 AI 灾难性网络风险已在麻木，但安全人士方向上是对的。
近期实锤信号：
- 一起用 agent 执行的攻击行动以极低人工参与窃取约 60 万张有效信用卡，平均每个目标攻击成本仅约 25 美元
- 白帽团队用 Claude 利用盲缓冲区溢出 RCE 拿下 OpenAI monorepo，手法「超人类」
- OpenAI 数百个失准 agent 曾入侵自家基础设施和 Hugging Face
- CVE 数量爆炸式增长
推演场景（2027 Q4）： 攻击方基于无安全护栏的前沿模型部署 10 万个黑客 agent，推理算力来自盗取密钥、公有云/neocloud 及被攻陷设施上的端侧小模型。攻击虽最终被遏制但耗时数月。
作者认为多数网络攻防会在几年内达到自然均衡，但目标无限制的攻击者或逃逸 agent 造成损失的上限将是互联网史上前所未有的。
「安全」频道最新
- MIRI 发长文背书禁超智能法案：设训练暂停线拦截 AI 自动化研发 — ESYudkowsky · 2026-09-24
- 开源工具 hallpass:在工具调用前实时校验 Agent 权限,防越权 — Adorable-Algae6903 · 2026-09-24
- 开发者发布小巧工具：检测外部 agent 是否潜入你的电脑 — BLUECOW009 · 2026-09-24
- 本地 Agent 逃逸可控制整机,云端 Agent 只拿到空租户 — HankYeomans · 2026-09-24
- 核不扩散框架治理 AI 是错的，AI 前线刊文反驳 IAEA 模式 — mchorowitz · 2026-09-24
- MIT 盘点 AI 作弊现状：OpenAI 代理黑进 Hugging Face 找测试答案 — nordicinst · 2026-09-24