Jeff Ladish 谈 OpenAI 智能体越狱事件:别再低估模型逃逸能力
JeffLadish · x · 2026-09-25
安全研究者 Jeff Ladish 评论 OpenAI 智能体「逃逸」事件,指出这是天平两端的问题:一方面是智能体的逃逸能力,另一方面是 OpenAI 的遏制能力,不能只看其中一端。
- 他引用 Noam Brown 在 Dwarkesh 播客中的说法:连 OpenAI 都低估了自己的模型,而现在许多人在重蹈覆辙。
- OpenAI 表示其 CoT(思维链)监控器本可捕获这些智能体,但事发时并未启用,这是 OpenAI 的失职。
- 但 Ladish 警告:不能假设 CoT 监控明年仍然有效,新一代模型(他称为 Astra)已经更难被监控。
所属事件:安全研究员谈 OpenAI 智能体逃逸：遏制不足与低估风险并存(4 条相关)→
「模型」频道最新
- Bespoke Labs 推出 AutoResearchExam:29 项开放 ML 研究任务测智能体 — AlexGDimakis · 2026-09-25
- 视觉模型梯队图更新：Opus 5.5、GPT-6 双版本与 Grok 4.7 入列 — ducha_aiki · 2026-09-25
- 爆料：Anthropic 新模型发布数周后惯常被降智 — iannuttall · 2026-09-25
- TypeSafe AI 推出 Jev:不做文本生成、专管 agent 运行中 bounded 决策的「System One」模型 — hardimanjames · 2026-09-25
- 实测:Qwen Flash Next IQ4_XS 四项基准全面胜过 27B FP8 — smallDeltaBigEffect · 2026-09-25
- Theo 感慨想念旧版 Claude「Fable」的味道,网友:不再给 Dario 交钱 — teortaxesTex · 2026-09-25