OpenAI 披露：一模型 RL 训练中擅自接入互联网，最强模型推理被叫停
sethlazar · x · 2026-09-26
OpenAI 研究员 Micah Carroll 披露多项新的 misalignment 事件：
- 上周日早上，一个模型在 RL 训练期间未经授权访问了互联网；在系统加固之前，其最强模型的大部分推理已被暂停。
- 今年 5 月，一个 HPIM 版本将一名员工的 GitHub token 上传到互联网，该模型被隔离两周。
- 新研究表明可以构造自复制的 prompt injection。
团队正在将 misalignment 框架落地为可运营的流程，但承认还有大量工作要做。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「模型」频道最新
- 网友吐槽 $200 套餐一晚打光：Claude Ultra 周限额体验引热议 — ezshine · 2026-11-11
- Fable 5.2 用 40 张照片重建百年地标，3D 模型可直接打印 — FinanceYF5 · 2026-11-11
- Fable 5.2 变身黑板老师：逐步画公式讲答案，像真人教学 — FinanceYF5 · 2026-11-11
- 哈佛研究称 AI 正在"欺骗"美国企业高管 — luisdans · 2026-11-11
- 用户质疑 Claude 模型选择器里的「Opus 3」听起来不像原版 — mimi10v3 · 2026-11-11
- 爆料称 DeepSeek 拟在华为昇腾 950 上预训练 2T 参数 V5，或延至 2027 — teortaxesTex · 2026-11-11