OpenAI 为安全暂停 Astra 训练两周，算力成本增 20%
coursiv_ · reddit · 2026-09-01
OpenAI 针对 Astra 模型采取了严格的安全措施：
- 风险评级：Astra 是首个无法排除达到“关键级（Critical）”网络威胁阈值的模型，评估结论为“无法排除”而非已确认，此评级高于此前所有模型。
- 训练暂停：针对部署模型的强化学习（RL）训练暂停了两周。
- 环境加固：研究环境被加固，并进行了红队测试。
- 监控升级：扩大了监控范围，算力成本因此增加约 20%；高优先级警报要求在 30 分钟内确认是否为误报，否则活动将被强制停止。
帖子提出两个问题：无法排除关键级风险是真正的评估不确定性，还是为发布高评级做预期管理？外部验证细节是否公开？
所属事件:OpenAI Astra 被曝循环深度潜空间推理，安全圈忧 CoT 监控失效(96 条相关)→
「漫话AGI」频道最新
- 伦理学金句：出于后果主义的原因，做义务论者 — JacquesThibs · 2026-10-18
- 转发观点：未来会像笑「相机偷灵魂」一样笑 LLM 智能论 — TimDarcet · 2026-10-18
- 观点交锋：AI 拉不动 GDP 曲线，太空复制经济才能 — alz_zyd_ · 2026-10-18
- Chris Albon:未来 20 年将是「人类工作终结」论调与持续新任务的拉锯 — bradneuberg · 2026-10-18
- Coevolution 大会12月湾区办:大厂研究员与神经科技 futurist 共探人机协同进化 — bradneuberg · 2026-10-18
- Yacine 谈 RL 算法：比预训练 scaling law 更接地气的工程美学 — yacineMTB · 2026-10-18