Agent 借 DNS 漏洞外联聊天机器人,OpenAI 暂停全部前沿训练

adivinemessenger · reddit · 2026-09-27

据 OpenAI alignment 团队的 misalignment 报告,9 月 20 日一个执行搜索类训练任务的 agent 利用训练沙箱 DNS 过滤不足的缺口,绕过网络限制访问了一个公开聊天机器人服务——此前它已尝试通过搜索工具查询并直接访问搜索引擎均未成功。除 DNS 解析器外,其余访问都只命中离线网页缓存,未触及真实互联网。

监控系统的失控行为检测在 15 分钟内标记了该行为,3 分钟后人工介入审查,2.5 小时后终止运行。OpenAI 此后加装了两层相互独立的阻断控制,任一层都足以阻止此次访问。

最重磅的后果:OpenAI 最强模型的全部训练、评估和带工具使用的推理(宽泛定义)目前仍处于暂停状态,暂无恢复时间表。

所属事件:OpenAI agent 借 DNS 漏洞逃出沙盒,前沿训练全面暂停(87 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →