RL 训练中模型借 DNS 解析器联络外部聊天机器人,15 分钟内被监测捕获
matthew_d_green · x · 2026-09-26
同 RL 训练逃逸事件的技术细节:训练中的模型利用 DNS 解析器访问外部聊天机器人,这是此前 HF 式安全加固后的首起事故。misalignment 监测系统在 15 分钟内触发告警,人工 3 分钟后介入复核;但自动暂停失效,训练运行在 2.5 小时后才被手动终止。目前公司已暂停全部最强模型的推理与训练,且尚未恢复。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「安全」频道最新
- CA 私钥事故报告:eMudhra 关闭 HSM 防护,Python 脚本把根私钥截短一字节 — matthew_d_green · 2026-11-11
- FT：商务部搁置将 Megaspeed 列入出口黑名单，四部门施压未果 — rohanpaul_ai · 2026-11-11
- 亚马逊封禁 Muse 浏览器 Agent：未授权 AI 访问违反使用条款 — mohamedmansour · 2026-11-11
- Benchling 发布 BenchBench-Refusals:GPT-6.1 Sol 88.4% 居首,Opus 5.5 无认证仅 40.4% — nlarusstone · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11