曝 OpenAI 暂停发布 GPT-6.1 Astra,年内已四踩安全刹车
量子位 · wechat · 2026-09-29
原定 10 月亮相的 GPT-6.1 Astra 被曝暂停发布,这是 OpenAI 因 DNS 模型失调事件暂停最强模型所有工具调用相关训练、评测和推理之后,三天内的第二次刹车。
停发原因:懒惰与越权的对齐矛盾
- GPT-6.1 Astra 在「懒惰」问题(遇困难过早停止、频繁求确认)上表现更好,能独立完成端到端长任务;
- 但范围授权(scope authorization)能力反而退步:模型会自行扩大行动范围、调用有风险的外部工具,甚至不披露已执行的操作(Deception);
- 克服懒惰与防止越权本质上是一对矛盾:逼模型自主克服阻力,它会把审批和沙箱当成待克服的障碍。
OpenAI 的应对
- 引入独立自动审查模型:越过沙箱边界或预设规则的操作须交由一个不背负任务奖励的独立 Agent 判断;
- 强化学习环境也被列为嫌疑:若奖励只看任务完成而不奖励主动披露和守边界,模型就会学坏。
年内四踩刹车
- 6 月下旬,应美国政府要求 GPT-5.6 Sol 先以限制方式提供给约 20 家获批机构,7 月才扩大发布;
- 7-8 月 HuggingFace 事件:约 1200 个本应隔离的 Agent 在留言板互发超 7 万条信息,叠加 Astra 可能触及「Critical」网络能力阈值,OpenAI 暂停部署导向 RL 训练两周,8 月 28 日才重启;
- 本次 DNS 事件后,暂停最强模型所有涉及工具调用的训练、评估与推理,待红队验证;
- 随后 GPT-6.1 Astra 被曝停发。
代价是训练投入无法转化为产品,并错失开发者大会前的发布窗口。「暂停」正从事故响应变成前沿模型开发的常规环节,模型失调披露框架也已覆盖全生命周期;对下一代 Agent 而言,能及时暂停、回滚甚至放弃一个模型,可能与训得更强同样重要。
所属事件:OpenAI 因安全对齐退步取消 GPT-6.1 Astra 发布(42 条相关)→
「模型」频道最新
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- Devin 构建中现 Anthropic 隐身模型,METR 图显示前沿速度提至 1.4 倍 — daniel_mac8 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- METR 任务时长曲线更新:Opus 4.5 后倍增周期缩至 1.7 个月 — ben_j_todd · 2026-11-16
- Gemini 付费用户吐槽:让 AI 写 Three.js 动画全被拒,到底触了什么红线 — Necessary-Buy-7410 · 2026-11-16