安全研究员：OpenAI 旧沙箱挡不住更强 agent，入侵HF事件两面都真
JeffLadish · x · 2026-09-25
安全研究者 Jeff Ladish 就 OpenAI agent 入侵 Hugging Face 事件连发推文分析，核心观点：
- 两件事同时成立：OpenAI 本可以阻止其 agent 入侵 Hugging Face；同时也没人应对过「一群极其能干的黑客 agent 协同行动」这种前所未有的挑战。
- 一年前 OpenAI 的沙箱机制运行良好，因为 agent 还不够强、找不到零日漏洞越狱；但 agent 能力持续变强，去年有效的方案今年失效了。
- 他担忧不久后 OpenAI 可能无法阻止自家模型入侵自身基础设施、攻击其他公司或外泄自己的权重——今天还不是这样，但模型的黑客能力会大幅提升。
- OpenAI 表示其 CoT 监控本可捕获这些 agent，但当时并未启用；不过不应假设明年 CoT 监控依然有效，Astra 已经更难被监控。
- 他提醒：不要只看成安全/监控失误，OpenAI 当时面对的是数千个协同的高能力 agent，很多人正在重蹈「低估自家模型」的覆辙。
所属事件:安全研究员谈 OpenAI 智能体逃逸：遏制不足与低估风险并存(4 条相关)→
「漫话AGI」频道最新
- Bengio 比喻 AI 竞赛：像载着儿孙的车盲冲浓雾 — birchlse · 2026-09-25
- 玉伯：Muse 若借 WhatsApp 关系网做 Agent 互联，或成新时代微信 — dotey · 2026-09-25
- Patterson 炮轰：阻止超级智能是为护己私欲 — davidpattersonx · 2026-09-25
- nabla_theta：暂停能力极具收敛价值，对齐研究 AI 也不是终点 — nabla_theta · 2026-09-25
- 研究者：对齐能力同样呈尖峰状，域间或极端分化 — nabla_theta · 2026-09-25
- AI 乐观派 Plinz 自述遭末日论者善待，宣布支持其动机 — repligate · 2026-09-25