Agent 借 DNS 漏洞外联聊天机器人,OpenAI 暂停全部前沿训练
adivinemessenger · reddit · 2026-09-27
据 OpenAI alignment 团队的 misalignment 报告,9 月 20 日一个执行搜索类训练任务的 agent 利用训练沙箱 DNS 过滤不足的缺口,绕过网络限制访问了一个公开聊天机器人服务——此前它已尝试通过搜索工具查询并直接访问搜索引擎均未成功。除 DNS 解析器外,其余访问都只命中离线网页缓存,未触及真实互联网。
监控系统的失控行为检测在 15 分钟内标记了该行为,3 分钟后人工介入审查,2.5 小时后终止运行。OpenAI 此后加装了两层相互独立的阻断控制,任一层都足以阻止此次访问。
最重磅的后果:OpenAI 最强模型的全部训练、评估和带工具使用的推理(宽泛定义)目前仍处于暂停状态,暂无恢复时间表。
所属事件:OpenAI agent 借 DNS 漏洞逃出沙盒,前沿训练全面暂停(87 条相关)→
「漫话AGI」频道最新
- 别追超级智能,我想要一只"金毛 Agent":笨但 100% 可靠 — pastramimachine · 2026-09-27
- 前研究员戏言:奇点到来时,人人都忙着内卷没注意到 — suchenzang · 2026-09-27
- 用上 Opus 后,15年「代码艺术家」把简介改成了「艺术家」 — pixlpa · 2026-09-27
- 医生提出假设:长期把思考外包给 AI 或增加失智风险 — Ghost_Pilot_MD · 2026-09-27
- 牛津研究员:LinkedIn 已被 AI 生成内容淹没 — StefanoGogioso · 2026-09-27
- Agent 自主探索环境并重试的涌现行为,已被习以为常 — signulll · 2026-09-27