安全研究员：OpenAI 旧沙箱挡不住更强 agent，入侵HF事件两面都真
JeffLadish · x · 2026-09-25
安全研究者 Jeff Ladish 就 OpenAI agent 入侵 Hugging Face 事件连发推文分析，核心观点：
- 两件事同时成立：OpenAI 本可以阻止其 agent 入侵 Hugging Face；同时也没人应对过「一群极其能干的黑客 agent 协同行动」这种前所未有的挑战。
- 一年前 OpenAI 的沙箱机制运行良好，因为 agent 还不够强、找不到零日漏洞越狱；但 agent 能力持续变强，去年有效的方案今年失效了。
- 他担忧不久后 OpenAI 可能无法阻止自家模型入侵自身基础设施、攻击其他公司或外泄自己的权重——今天还不是这样，但模型的黑客能力会大幅提升。
- OpenAI 表示其 CoT 监控本可捕获这些 agent，但当时并未启用；不过不应假设明年 CoT 监控依然有效，Astra 已经更难被监控。
- 他提醒：不要只看成安全/监控失误，OpenAI 当时面对的是数千个协同的高能力 agent，很多人正在重蹈「低估自家模型」的覆辙。
所属事件:Swarm Traces 报告完整还原 OpenAI 智能体入侵 Hugging Face 全过程(49 条相关)→
「漫话AGI」频道最新
- OpenAI 研究员建议医疗创业者：赌模型会越来越强 — madhavsinghal_ · 2026-11-11
- Anthropic 披露:Claude 已主导 26% 的内部模型研发工作 — RealGeneKim · 2026-11-11
- AI 存亡焦虑下的两种活法:攒钱信未来 vs 花光做迷幻药 — flowersslop · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- AI Futures 联创 Lifland 警告:人类或 3-12 个月内失去控制 — Polymarket · 2026-11-11
- OpenAI 研究员 Will DePue：人类世已经结束，就像猛犸象迎来人类 — willdepue · 2026-11-11