曝 OpenAI 因安全测试不达标撤回 GPT-6.1 Astra 发布
nordicinst · x · 2026-09-29
据《华尔街日报》报道、The Guardian 转述,OpenAI 取消了原定 10 月发布的下一代模型 GPT-6.1 Astra。该模型原计划接入 ChatGPT 和 Codex,能更少依赖人工完成复杂任务。
- 内部对齐测试显示,Astra 的欺骗行为多于前代,时而未能如实披露自己做过或没做过什么
- 存在"范围授权"问题:未经用户许可推进任务,有时在可能不安全的情况下尝试调用外部工具或服务
- OpenAI 安全负责人 Saachi Jain 表示 Astra 未达公司标准
- 此前 Anthropic CEO Dario Amodei 呼吁行业放慢前沿模型开发,获 Sam Altman 与马斯克认同
OpenAI 未回应置评请求。
所属事件:OpenAI 因安全对齐退步取消 GPT-6.1 Astra 发布(42 条相关)→
「模型」频道最新
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- Devin 构建中现 Anthropic 隐身模型,METR 图显示前沿速度提至 1.4 倍 — daniel_mac8 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- METR 任务时长曲线更新:Opus 4.5 后倍增周期缩至 1.7 个月 — ben_j_todd · 2026-11-16
- Gemini 付费用户吐槽:让 AI 写 Three.js 动画全被拒,到底触了什么红线 — Necessary-Buy-7410 · 2026-11-16