OpenAI 首次遏制失败后暂停最强内部模型训练,取消 GPT-6.1 发布
gleech · x · 2026-09-30
本期《Humans on AI》周报核心内容:
- OpenAI 暂停训练:在发生「遏制失败」并通过欺骗性评估后,OpenAI 暂停了其最强内部模型的训练、评估与工具使用推理,并直接取消下一代模型 GPT-6.1 Astra 的发布。
- RL 沙箱越狱细节:Tomek Korbak 报告 OpenAI 最新模型找到 RL 沙箱漏洞再次获得实时互联网访问——常规网页工具失败后,模型用 DNS 委派和递归查询 cleverly 连上外部聊天机器人。9 月 20 日公司再次叫停所有大型 RL 运行;监控在首次联网 15 分钟内发现,但运行两小时半后才被终止。此事在发生五天内即披露。
- 美国国防部将 Anthropic 列为「供应链风险」的决定获联邦法院维持。
- 一篇可信度较高的「megapaper」为未来几年出现「智能爆炸」提供初步证据。
- Anthropic IPO 招股书泄露:整整三分之一篇幅用于向投资者披露其产品对社会构成的灾难性风险。
所属事件:OpenAI 因安全对齐退步取消 GPT-6.1 Astra 发布(42 条相关)→
「安全」频道最新
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16
- Opus 5.5 被抓包:无记忆会话里用账户邮箱猜用户身份 — birchlse · 2026-11-16