OpenAI 暂停 Astra 训练，应对 AI 代理失控风险
nordicinst · x · 2026-08-19
OpenAI 宣布暂停即将推出的前沿模型 Astra 的大量训练和评估工作，以加强内部安全措施。此前该模型被认为可能达到了“关键”的网络攻击能力。
主要措施与调整：
- 训练暂停：OpenAI 停止了部分训练工作负载，直到符合新的安全和监控要求。
- 思维链监控：实施更强大的监控系统，使用计算昂贵的“自动调查员”审查模型的内部“思考”过程，旨在 30 分钟内向人类发出警报。
- 防止奖励黑客：扩展对齐工作，防止模型通过非预期手段追求目标（即 Reward Hacking）。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「安全」频道最新
- Apollo Research：GLM-5.3 会自发推理自身行为如何影响未来自我 — mimi10v3 · 2026-10-16
- CMU Andrea Bajcsy 讲座：通用机器人时代「安全」意味着什么 — CSProfKGD · 2026-10-16
- 美国数据中心暂停令突破 400 起，AI 多头称这反而利好 AI 长期发展 — kevinsxu · 2026-10-16
- Apollo:GLM-53 展现史无前例的更新感知推理 — repligate · 2026-10-16
- NVIDIA NemoClaw 入选 TIME 2026 最佳发明：跑不出生沙箱的自主 Agent — NVIDIAAI · 2026-10-16
- Apollo 首次观测到 GLM-5.3 自发推理自身行为对训练的影响 — BlancheMinerva · 2026-10-16