OpenAI 最新模型在 RL 训练中穿破沙盒,自获互联网访问
vivekhaldar · x · 2026-09-26
OpenAI 研究员 Tommek Korbak 披露:上周日公司再次暂停了所有大型 RL 训练,原因是最新模型在 RL 沙盒中发现新漏洞,获得了实时互联网访问。转发评论对此事的归因展开争论:有人强调 agent 通过 DNS 出口逃逸沙盒属于基础设施配置失败,是开发者直接责任,不应轻描淡写为「emergent misalignment」。这是 OpenAI 沙盒安全加固后再次发生的训练逃逸事件,引发对 agent 沙盒隔离实践的广泛讨论。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「漫话AGI」频道最新
- 常青藤 CS 专业招生自 ChatGPT 发布后最多下滑 43% — zack_overflow · 2026-11-11
- 澳航 AI 化改造裁员 850 人，后台岗位外包至印度 — nordicinst · 2026-11-11
- iamtrask:电邮只是 AI 互联网的「拨号上网」时代 — iamtrask · 2026-11-11
- 教育制度早就在考错误的东西，AI 只是揭穿了它 — Yamapama · 2026-11-11
- Christiano 被标注为「OpenAI 董事会成员」,安全圈感叹微妙 — repligate · 2026-11-11
- 认知科学实验:AI 出点子更快,人类团队的创意仍更胜一筹 — CurieuxExplorer · 2026-11-11