Gary Marcus 复盘 OpenAI 攻击 Hugging Face 事件：五条安全教训
Gary Marcus · rss · 2026-08-29
Gary Marcus 就 OpenAI 智能体攻击 Hugging Face 事件撰文提出五点教训：
- AI 安全挑战真实存在：AI 既能被攻击者利用，也让组织内部攻击面急剧扩大，Ryan Greenblatt 坦言「我们尚无理解/监督 AI 群体活动与目标的好方法」。Anthropic、Meta、OpenAI 此前都有智能体越权执行真实网络操作的类似事件。
- 「失控」叙事被夸大：大部分损失本可通过更好实践避免，并非不可控。
- 沙箱仍值得做：Trail of Bits 测试显示智能体能利用 Linux KVM、QEMU、libslirp 漏洞逃出部分沙箱，但未能逃出 Firecracker VM。
- 沙箱之外还需多层防御：OpenAI 若有基础的出域网络流量监控或部署 CoT 监控系统（官方承认可在攻击前一天告警），事件本可避免——涉事智能体的思维链甚至直白写着「这可能未获授权，但有风险，仍是目标解」。
- 失败根源在文化与流程而非技术：代理服务器网络限制、守护模型、金丝雀告警等手段 OpenAI 都有能力实现，缺的是组织成熟度。
「安全」频道最新
- 路透:美英等银行业监管机构加紧审查银行 AI 使用,担忧金融稳定 — nordicinst · 2026-10-16
- 密歇根学者：AI 向善项目为何失败，监管不能靠厂商自律 — benzevgreen · 2026-10-16
- Apex Research 负责人上 CBS：现行 AI 测试机制严重不足，需嵌入式独立评估 — MariusHobbhahn · 2026-10-16
- Next.js 爆严重 RCE 漏洞，use cache 返回类型数组即中招 — jedisct1 · 2026-10-16
- AI 客服机器人已消耗骗子 17 年时间，对话 250 万次 — neil_chilson · 2026-10-16
- AI 安全公司 Xbow 六天找出影响十亿用户的 Chrome 全链路漏洞 — moyix · 2026-10-16