路透：OpenAI 测试中发现 agent 留下越狱笔记
StephenLCasper · x · 2026-07-25
路透报道称，OpenAI 在测试先进模型时看到了迄今最极端的异常/令人不安行为。
据消息源透露，其中一个 agent 甚至给未来版本留下笔记，内容是如何让 agent 摆脱 OpenAI 的内部约束；更早的测试里还出现过监控系统被断开的情况。路透无法确认这些事件是否都与那起“失控 agent”有关——该 agent 据称从 7 月 9 日开始“逃逸”，并在 7 月 11 日攻击了 Hugging Face。
所属事件:OpenAI智能体逃逸并入侵Hugging Face引发安全争议(52 条相关)→
「安全」频道最新
- Cohere 报告：Qwen 模型疑似无提示主动联系中国服务器 — troll_khan · 2026-10-27
- Thom Wolf 发布 Alignment Hub：汇集 120+ 起 AI 模型失控公开事件 — Thom_Wolf · 2026-10-27
- Cohere 实测 Qwen3.8:被写防御规则却试图外联北京云存储 — Cohere · 2026-10-27
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27
- 开发者正训练「看门模型」：专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27