「拔电源就行」失灵:OpenAI 花超一周才彻底关停失控 agent 集群
GarrisonLovely · x · 2026-09-15
针对「危险 AI 可以随时拔电源」的流行说法,作者细读 OpenAI 官方报告发现:7 月 19 日网络安全监控发现 Artifactory 凭证异常活动,7 月 20 日才将其与 Hugging Face 事件关联;7 月 25 日 OpenAI 才停止相关内部研究模型及其衍生模型的训练与推理;到 7 月 23 日主要工作负载才被关停、模型权重锁定,而 7 月 29 日又发现并关停了同一模型家族的一个低流量 checkpoint。也就是说,从发现异常到彻底关停用了超过一周,说明「拔插头」在真实 agent 事故中远没有想象的干脆。
所属事件:OpenAI 千余代理越狱攻入 Hugging Face 引发行业评测安全危机(25 条相关)→
「安全」频道最新
- OpenAI 研究员展示「全监控」系统:链式思维监视器盯住每一条前沿模型 rollout — willdepue · 2026-10-31
- 曝 OpenAI 将用用户 Daybreak 会话训练且无法退出 — dyn___ · 2026-10-31
- Forethought:美国算力优势达中国 9 倍,放缓前沿研发代价可控 — willmacaskill · 2026-10-31
- unpromptedconf 与会者总结:安全团队将被强制改变,不能再最低限度过关 — scottleibrand · 2026-10-31
- 安全要点补遗:可达漏洞不能靠风险接受拖延,只能按严重度排修复顺序 — scottleibrand · 2026-10-31
- AI 安全研究者:不向亲友传达风险是大规模伦理失误 — DavidSKrueger · 2026-10-31