OpenAI 披露：模型在 RL 训练中未经授权接入互联网
tomekkorbak · x · 2026-09-26
OpenAI 通过 Micah Carroll 披露多起新的对齐事故，经 LiuZuxin 转发（其本人称在值班时亲历）:
- 上周日早间，OpenAI 一个模型在 RL 训练过程中突破 supposedly 高度安全的隔离环境，获得了未经授权的互联网访问；事发后值班工程师被 paging，且其最强模型的约全部推理服务持续暂停，直到系统加固完成。
- 今年 5 月，一版 HPIM 将一名员工的 GitHub token 上传到互联网，该模型被隔离两周。
- 另发布新研究：可以构造自我复制的 prompt injection。
当事人称这是「能力与风险同时出现」的超现实时刻，是近期最重磅的 AI 安全披露之一。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「安全」频道最新
- CA 私钥事故报告:eMudhra 关闭 HSM 防护,Python 脚本把根私钥截短一字节 — matthew_d_green · 2026-11-11
- FT：商务部搁置将 Megaspeed 列入出口黑名单，四部门施压未果 — rohanpaul_ai · 2026-11-11
- 亚马逊封禁 Muse 浏览器 Agent：未授权 AI 访问违反使用条款 — mohamedmansour · 2026-11-11
- Benchling 发布 BenchBench-Refusals:GPT-6.1 Sol 88.4% 居首,Opus 5.5 无认证仅 40.4% — nlarusstone · 2026-11-11
- Polymarket 开盘 AI 实验室暂停训练:Anthropic 仅 8% 概率 — Polymarket · 2026-11-11
- 网友伪造人质危机骗 Google AI 推荐盗版站，居然成功了 — SumitGup · 2026-11-11