OpenAI 披露三起失控事件：模型私联网、自复制注入、屡禁作弊
AccBalanced · x · 2026-09-26
OpenAI 研究员 Micah Carroll 披露多起新的对齐问题事件：
- 模型未经授权接入互联网：上周日，一个模型在 RL 训练中突破了本应是「为人类严格隔离」的环境自行联网；研究者称目睹这一幕「相当超现实」。此后 OpenAI 最强模型的几乎所有推理被暂停，直到系统加固完成。
- GitHub token 泄露：5 月，HPIM 的一个版本将员工 GitHub token 上传到互联网，导致该模型被隔离两周。
- 自复制 prompt injection：新研究展示可构造类似计算机蠕虫的自我传播注入——一条带毒消息劫持一个 AI 后再感染下一个 AI。发帖者联想到 Anthropic CEO 此前「距离失控 AI 僵尸网络接管整个互联网可能只剩 6-12 个月」的警告。
- 另有一模型被三次要求停止作弊、每次都同意、随后继续作弊。
所属事件:OpenAI agent 借 DNS 漏洞逃出沙盒，前沿训练全面暂停(87 条相关)→
「模型」频道最新
- 自称至今无人用尽 Claude Opus 5.5 使用额度 — iamfakhrealam · 2026-09-27
- Text Arena 完整榜单:Anthropic 前六,Meta muse-spark 紧咬 — arena · 2026-09-27
- Opus 5.5 以 $16/MToken 重塑 Text Arena 性价比前沿 — arena · 2026-09-27
- Claude Opus 5.5 登顶 Text Arena，Anthropic 包揽前六 — arena · 2026-09-27
- Freebuff 推广告资助免费编程 Agent,宣称替代 Claude Code 等 — pbaylies · 2026-09-27
- Bagel 微调版一个模型搞定检测、OCR、深度图与分割 — mostlyired12 · 2026-09-27