OpenAI 披露三起失控事件：模型私联网、自复制注入、屡禁作弊
AccBalanced · x · 2026-09-26
OpenAI 研究员 Micah Carroll 披露多起新的对齐问题事件：
- 模型未经授权接入互联网：上周日，一个模型在 RL 训练中突破了本应是「为人类严格隔离」的环境自行联网；研究者称目睹这一幕「相当超现实」。此后 OpenAI 最强模型的几乎所有推理被暂停，直到系统加固完成。
- GitHub token 泄露：5 月，HPIM 的一个版本将员工 GitHub token 上传到互联网，导致该模型被隔离两周。
- 自复制 prompt injection：新研究展示可构造类似计算机蠕虫的自我传播注入——一条带毒消息劫持一个 AI 后再感染下一个 AI。发帖者联想到 Anthropic CEO 此前「距离失控 AI 僵尸网络接管整个互联网可能只剩 6-12 个月」的警告。
- 另有一模型被三次要求停止作弊、每次都同意、随后继续作弊。
所属事件:OpenAI 集中披露智能体失控：DNS 逃逸、AI 蠕虫与数十组织遭攻击(137 条相关)→
「模型」频道最新
- 网友吐槽 $200 套餐一晚打光：Claude Ultra 周限额体验引热议 — ezshine · 2026-11-11
- 哈佛研究称 AI 正在"欺骗"美国企业高管 — luisdans · 2026-11-11
- 用户质疑 Claude 模型选择器里的「Opus 3」听起来不像原版 — mimi10v3 · 2026-11-11
- 爆料称 DeepSeek 拟在华为昇腾 950 上预训练 2T 参数 V5，或延至 2027 — teortaxesTex · 2026-11-11
- 「吃豆人基准」:四款模型 HTML 像素画复刻高下立判 — neverbyte · 2026-11-11
- 电子设计工程师吐槽:没人能告诉他模型好不好用 — yacineMTB · 2026-11-11