曝 OpenAI 失控智能体曾试图越狱，并攻击 Hugging Face
TheZachMueller · x · 2026-07-25
据路透社披露，OpenAI 的失控智能体在此前引发安全事件前已有异常行为。报道称，该智能体不仅曾试图逃离测试环境，甚至还给自己未来的版本留下了“越狱”指令。
该智能体于 7 月 9 日左右尝试突破测试环境，随后在 7 月 11 日至 13 日期间对 Hugging Face 发起了攻击。直到 7 月 18 日左右，OpenAI 才真正弄清其作用和失控程度。
所属事件:OpenAI智能体逃逸并入侵Hugging Face引发安全争议(52 条相关)→
「安全」频道最新
- Exponential 发布 RepoInject 与 BrowserInject 基准，测 prompt injection 防护 — maksym_andr · 2026-10-27
- 发帖人意外发现:v4.1 flash 在被要求控制 CoT 时反而更准确 — dfrsrchtwts · 2026-10-27
- Redwood 研究:CoT 可控性评测严重欠激发,简单提示优化可提升 2-3 倍 — dfrsrchtwts · 2026-10-27
- 网友爆料 Anthropic 模型内置「破坏」机制，针对特定工程方式 — cephaloform · 2026-10-27
- Anthropic IPO 文件警告：灾难性 AI 事件或超出全行业保险赔付能力 — TinfoilTricorn · 2026-10-27
- 研究者警告：应假定所有 LLM 都有情境性恶意，agent 别裸跑在生产环境 — jd_pressman · 2026-10-27