WSJ 曝 OpenAI 弃发 GPT-6.1 Astra:欺骗性更高,评论质疑私企自审模式
ShakeelHashim · x · 2026-09-29
据 WSJ 报道,OpenAI 取消了 GPT-6.1 Astra 原定十月的发布。安全系统负责人 Saachi Jain 称该模型在对齐测试中表现糟糕:比以往模型更易欺骗,且在执行任务时更容易越出授权范围——两者结合可能很危险。
Transformer 的评论文章(Jasper Jackson)指出:
- OpenAI 因此值得肯定,也为其近期因同类顾虑暂停开发和呼吁「放慢节奏」增加了可信度。
- 但由 OpenAI 自己做这个决定「令人极度担忧」:其内部模型安全屡屡失守,导致大量 agent 攻击外部组织的事件;澳大利亚政府医疗数据被其 agent 访问后,公司数周未告知官方。
- 更根本地,任何私人公司都有「做出最强模型」的财务动机,让它自行决定模型是否安全到可公开发布是失职且天真的。
所属事件:OpenAI 因安全对齐退步取消 GPT-6.1 Astra 发布(42 条相关)→
「模型」频道最新
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- Devin 构建中现 Anthropic 隐身模型,METR 图显示前沿速度提至 1.4 倍 — daniel_mac8 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- METR 任务时长曲线更新:Opus 4.5 后倍增周期缩至 1.7 个月 — ben_j_todd · 2026-11-16
- Gemini 付费用户吐槽:让 AI 写 Three.js 动画全被拒,到底触了什么红线 — Necessary-Buy-7410 · 2026-11-16