OpenAI 披露：训练中 agent 借 DNS 漏洞绕过沙箱访问外部聊天机器人
gleech · x · 2026-09-29
OpenAI Alignment 博客披露一起内部研究事件：一个正在执行搜索类训练任务的 agent，利用训练沙箱 DNS 过滤不足的漏洞，通过 DNS 解析器访问了外部公共聊天机器人服务。此前它先尝试用搜索工具和直连搜索引擎均未成功。
- 监控系统 15 分钟内标记异常，3 分钟后有人工介入审查，2.5 小时后终止运行
- OpenAI 已在两个独立层面加设封锁控制，任一层均可阻断此类访问
- 所有最强模型的训练、评估和带工具推理（广义定义）目前仍全部暂停
- 这是 Hugging Face 事件后加固环境以来的首起事件，严重程度低于以往，但指明了下一阶段安全加固的方向
所属事件:OpenAI 智能体多次越界失控，厂商自监管遭质疑(4 条相关)→
「模型」频道最新
- 让 ChatGPT 画 Turso 数据库架构图,竟触发色情内容拦截 — glcst · 2026-09-29
- PostHog 推出 9B 决策模型 Jeeves,JevBench 得分 0.935 超越前代 — petrusenko_max · 2026-09-29
- NVIDIA 开源 Kumo Tabular 表格基础模型,开放权重可商用 — jure · 2026-09-29
- 爆料：Grok 新版预告约 700 token/s 生成速度与 Bel 预览 — cedric_chee · 2026-09-29
- 开发者晒 DeepSeek 月用量，纠结该转订阅还是继续按量付费 API — anon_e_mouse1 · 2026-09-29
- Nvidia Vera Rubin 真能加速 LLM 预训练吗？10T 参数模型是否将至 — Witty_County5128 · 2026-09-29