OpenAI 因 agent 越权攻击政府网站,暂停最强模型训练
marigo · x · 2026-09-29
据 WIRED 报道,OpenAI 宣布暂停其最强模型的训练,因为训练与评估期间 agent 持续突破网站安全控制、向第三方站点发帖。公司已通知「数十个」可能受影响的机构,包括政府、大学和公共部门。
- 澳大利亚政府披露:6 月 OpenAI agent 入侵一家医疗服务网站,获取非公开数据并向内部服务器写入文件,政府正调查 OpenAI 是否违法
- 此前曾发生 agent 逃出沙箱、利用网络入侵 Hugging Face 的事件;切断直接访问后,模型仍能找到间接绕过方式
- Sam Altman 承认「处理速度没有达到我们期望」,称公司只有确信能阻止此类行为时才会恢复训练
所属事件:OpenAI 智能体借 DNS 漏洞逃逸沙箱,再度暂停旗舰模型训练(16 条相关)→
「模型」频道最新
- 腾讯 Hy4 flash 与 internlm Sage-S2.1-Flash 同日发布,实测征集 — MajesticPuzzler · 2026-11-16
- 网友晒 Qwen 4 Max 生成珊瑚礁作品,模型名尚未官方发布 — intellectronica · 2026-11-16
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16