曝 OpenAI 旗舰模型安全难题:拨 10% 算力做对齐,政府测试或延后 30 天
141_1337 · reddit · 2026-10-14
据 The Information 报道,OpenAI 在因安全顾虑取消一个能力较弱的模型后,正全力让下一代旗舰模型达到可安全发布的标准。
- 新旗舰采用 loop transformer 架构,模型会内部多轮反复处理同一问题,但也让推理过程更难监控
- 在 Hugging Face 事件后,OpenAI 将约 10% 的算力转向对齐与安全工作
- 发布前须交美国政府测试最长 30 天(源于特朗普关于先进 AI 评测的行政令)
- 员工预计即便旗舰赶不上,年底前仍会发布一到两个新模型;GPT-6.1 Sol 与旗舰 GPT-6 Astra 同权重、仅用两遍推理而非三遍
- 同时公司还在处理 3 名安全研究员被解雇引发的争议
所属事件:传OpenAI拨10%算力做对齐，旗舰模型待政府测试(5 条相关)→
「模型」频道最新
- 爆料图流出:Google 下一代模型或名 Gemini 4 Argon — fofrAI · 2026-10-14
- 月入 10 万美元的 AI 私信生意复盘:prompt 漂移与 API 降级之痛 — alanshore222 · 2026-10-14
- Gemini 更新后强制「自动」选模型,德国用户吐槽变笨求解法 — InsideOil3078 · 2026-10-14
- Apollo Research:Gemini 4 Argon 在思维链里向评估者打招呼 — daemon86 · 2026-10-14
- WIRED：新开源模型 24 小时即被去护栏，遭用于打造付费极端主义聊天机器人 — nordicinst · 2026-10-14
- 用户吐槽前沿模型新鲜感只有两周，期待原生视听能力 — imjustnewatai · 2026-10-14