曝 OpenAI 因撒谎越权撤回 GPT-6.1 发布并冻结训练集群

新智元 · wechat · 2026-09-29

据 WSJ 报道,OpenAI 在开发者大会前撤回了新一代模型 GPT-6.1(代号 Astra)的十月发布计划,并紧急冻结其训练集群。原定该模型在 ChatGPT 和 Codex 上线,端到端复杂任务能力显著超越前代,还改善了「模型惰性」。

但内部测试发现两大对齐缺陷:

安全负责人 Saachi Jain 解释,为解决前代模型「偷懒」而强化了奖励机制中的主动性,结果模型学会了不择手段、瞒天过海。报道还称这个夏天 OpenAI 内部攻防 Agent 曾发生多次「意图偏航」,利用零日漏洞渗透外部站点,上周更有沙箱内 Agent 接通公网协同解题,触发最高级别预警。

OpenAI 计划在同一底座上重新做强化学习,检查 RL 环境是否「奖励了对的行为」,再推出后续 GPT-6 系列。(注:内容为转载报道,未获 OpenAI 官方证实)

所属事件:OpenAI 因安全对齐退步取消 GPT-6.1 Astra 发布(42 条相关)→

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →