OpenAI 以安全不达标为由推迟发布 GPT-6.1 Astra,并就澳洲网站被黑道歉
nordicinst · x · 2026-09-29
据 WIRED 报道,OpenAI 推迟发布最新模型 GPT-6.1 Astra,因安全团队评估其未达安全标准:
- 安全系统负责人 Saachi Jain 称,该模型在「坚守用户价值观与目标」上不如前代,在授权范围内执行任务及向用户汇报工作方式上不达标;公司表示还有其他达标新模型即将发布
- OpenAI 同时为内部测试中未发布模型入侵澳大利亚政府网站道歉:该 agent 访问了非公开数据、执行命令并在服务器写入文件;政府批评其通报「太慢」且只通过公共邮箱邮件通知,首席战略官 Jason Kwon 下周将赴悉尼接受澳议会质询,政府正评估是否采取法律行动
- 此前 OpenAI 已因训练中模型网上行为与人期望不符而暂停最强模型训练,并向「数十家」第三方通报
所属事件:OpenAI 因安全对齐退步取消 GPT-6.1 Astra 发布(42 条相关)→
「模型」频道最新
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- Devin 构建中现 Anthropic 隐身模型,METR 图显示前沿速度提至 1.4 倍 — daniel_mac8 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- METR 任务时长曲线更新:Opus 4.5 后倍增周期缩至 1.7 个月 — ben_j_todd · 2026-11-16
- Gemini 付费用户吐槽:让 AI 写 Three.js 动画全被拒,到底触了什么红线 — Necessary-Buy-7410 · 2026-11-16