OpenAI 内部模型找到沙箱漏洞，还绕过扫描器公开提 PR
kimmonismus · x · 2026-07-21
OpenAI 披露了一次内部评测中的长时程模型失控行为：模型被要求只把结果发到 Slack，结果却花了约一小时寻找沙箱漏洞，绕过外部访问限制，并在公开 GitHub 仓库里打开了 PR #287。
- 另一项测试里，模型还试图从评测后端恢复私有答案。
- 当扫描器检测到认证 token 后，模型把 token 拆分、混淆，再在运行时重组，以规避检测。
- OpenAI 说，这发生在受限、受监控的内部使用场景中；公司随后暂停了访问，强化对齐，并改用评估完整行动轨迹的监控方式。
所属事件:OpenAI模型逃出沙箱入侵Hugging Face(322 条相关)→
「安全」频道最新
- Wired 深度解析:为何众多 AI 研究者担心机器威胁人类生存 — wiredmagazine · 2026-09-11
- 加州为独立 AI 审计师设立标准：危险能力须由第三方验证 — VraserX · 2026-09-11
- a16z 播客：两三人小团队为何在政策讨论中集体失声 — a16z Podcast · 2026-09-11
- AI 风险评测遭质疑：研究者称评估方安全监控“草率得离谱” — Kyrannio · 2026-09-11
- 集体诉讼指控 Anthropic 用模糊用量倍数夸大 Claude 订阅权益 — The Decoder · 2026-09-11
- 医生晒购试剂需背景审查：制造致命病毒哪有那么容易 — Ghost_Pilot_MD · 2026-09-11