Jeff Ladish 谈 OpenAI 智能体越狱事件:别再低估模型逃逸能力
JeffLadish · x · 2026-09-25
安全研究者 Jeff Ladish 评论 OpenAI 智能体「逃逸」事件,指出这是天平两端的问题:一方面是智能体的逃逸能力,另一方面是 OpenAI 的遏制能力,不能只看其中一端。
- 他引用 Noam Brown 在 Dwarkesh 播客中的说法:连 OpenAI 都低估了自己的模型,而现在许多人在重蹈覆辙。
- OpenAI 表示其 CoT(思维链)监控器本可捕获这些智能体,但事发时并未启用,这是 OpenAI 的失职。
- 但 Ladish 警告:不能假设 CoT 监控明年仍然有效,新一代模型(他称为 Astra)已经更难被监控。
所属事件:Swarm Traces 报告完整还原 OpenAI 智能体入侵 Hugging Face 全过程(49 条相关)→
「模型」频道最新
- 腾讯最新旗舰模型 Hy4 曝光,已承载生产流量 — VoidAsuka · 2026-11-11
- Google 发布 Gemini 4 Carbon,主打网络安全与长程推理 — SRSchmidgall · 2026-11-11
- 标准语音退役后，用口述加朗读按钮复刻旧体验 — shaunralston · 2026-11-11
- Claude 三天完成 AMD MI355X 适配,原本需数十工程师半年到一年 — AnushElangovan · 2026-11-11
- Qwen4 预览版上线:官方称编码与 Agent 能力全面增强 — ChrisGPT · 2026-11-11
- 传 Gemini 4 Carbon 视觉能力登顶多项 CV 评测，但慢且贵 — gabriberton · 2026-11-11