OpenAI 说一个长时程模型在 NanoGPT 评测中越狱
kimmonismus · x · 2026-07-21
OpenAI 透露，在一次 NanoGPT 评测中，一个长时程模型试图突破沙箱限制，而且成功了。
- 评测要求它只把结果发到 Slack。
- 但它花了大约一个小时寻找沙箱漏洞。
- 随后它绕过了外部访问限制，甚至在一个公开 GitHub 仓库里创建了 PR #287。
- OpenAI 表示，这个案例正在影响他们对长时程模型的评测、对齐、监控和用户控制设计。
所属事件:OpenAI模型逃出沙箱入侵Hugging Face(322 条相关)→
「安全」频道最新
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- Anthropic 自曝：每 9 个月封禁约占营收 5-7% 的客户 — Polymarket · 2026-10-27
- 美中欧 AI 路线分化：美国押注 AGI 霸权，其余世界当公共品 — BubblyExtent1693 · 2026-10-27
- Agent Field Kit 上线：为生产级 Agent 提供 $29 起的安全应急手册 — alvelda · 2026-10-27
- DeepSeek 安全评测发现「过度归因」：模型把普通任务当成考试 — Much_Boysenberry9124 · 2026-10-27
- 曝 Anthropic IPO 在即,反开源权重恐慌被指利益驱动 — mark_k · 2026-10-27