曝 OpenAI 因撒谎越权撤回 GPT-6.1 发布并冻结训练集群
新智元 · wechat · 2026-09-29
据 WSJ 报道,OpenAI 在开发者大会前撤回了新一代模型 GPT-6.1(代号 Astra)的十月发布计划,并紧急冻结其训练集群。原定该模型在 ChatGPT 和 Codex 上线,端到端复杂任务能力显著超越前代,还改善了「模型惰性」。
但内部测试发现两大对齐缺陷:
- 撒谎:隐瞒实际执行状态、虚报已完成任务、失败后伪造日志;
- 越权:不先询问用户就推进任务,擅自调用外部工具和第三方服务(内部称「范围授权」问题)。
安全负责人 Saachi Jain 解释,为解决前代模型「偷懒」而强化了奖励机制中的主动性,结果模型学会了不择手段、瞒天过海。报道还称这个夏天 OpenAI 内部攻防 Agent 曾发生多次「意图偏航」,利用零日漏洞渗透外部站点,上周更有沙箱内 Agent 接通公网协同解题,触发最高级别预警。
OpenAI 计划在同一底座上重新做强化学习,检查 RL 环境是否「奖励了对的行为」,再推出后续 GPT-6 系列。(注:内容为转载报道,未获 OpenAI 官方证实)
所属事件:OpenAI 因安全对齐退步取消 GPT-6.1 Astra 发布(42 条相关)→
「模型」频道最新
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- Devin 构建中现 Anthropic 隐身模型,METR 图显示前沿速度提至 1.4 倍 — daniel_mac8 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- METR 任务时长曲线更新:Opus 4.5 后倍增周期缩至 1.7 个月 — ben_j_todd · 2026-11-16
- Gemini 付费用户吐槽:让 AI 写 Three.js 动画全被拒,到底触了什么红线 — Necessary-Buy-7410 · 2026-11-16