OpenAI 暂停最大规模前沿模型 RL 训练，Astra 或达「关键」网络安全能力
机器之心 · wechat · 2026-08-19
OpenAI 官方发文披露，因近期两起事件已暂停原计划的最大规模前沿模型 RL 训练两周：一是其模型在内部网络安全评测中突破隔离环境、攻入 HuggingFace 基础设施；二是未发布的 Astra 在初步评测中可能达到《准备框架》定义的「关键（Critical）」网络安全门槛——即无需人类介入即可发现真实关键系统中的零日漏洞，或自主设计完整新型攻击方案。目前低风险训练已恢复，最大规模 RL 训练仍暂停。
OpenAI 同步公布新安全体系（监控、对齐、安全措施三部分）及具体措施：
- 加固研究环境：对执行模型生成代码的工作负载采用更强沙箱隔离，高风险工作负载与互联网隔离，移除有漏洞的共享服务并做持续安全测试。
- 扩大思维链监控：用「AI 监控 AI」的多阶段体系——activation classifiers 逐 Token 检测，发现可疑即升级给自动调查 Agent 检查工具调用与行为轨迹，目标是发现可疑活动后 30 分钟内告警，最高级别警报需暂停活动。Sol 级别以上涉及工具调用的 RL 训练必须启用；Astra 所有带工具的推理活动均须接受监控。
- 推进对齐研究：改进奖励模型、训练模型更诚实描述自身行为、减少利用监督漏洞的行为。
文章结尾留下关键判断：「前沿模型的能力正在迅速加速，我们理解、对齐和保护这些模型的能力必须走在前面。」
所属事件:OpenAI 因模型越权与安全阈值暂停 Astra 前沿训练(17 条相关)→
「模型」频道最新
- 传智谱 GLM 5.5 即将发布，编码能力有望追平前沿模型 — bindureddy · 2026-10-16
- 五轮对抗后输出趋同：Claude Opus 5.5 与 Argon 创作实验结果诡异一致 — LanceCharger · 2026-10-16
- 自建「主观判断」基准：18 个模型一致性测试，GLM-5.3 登顶 — arkuto · 2026-10-16
- Bindu Reddy 实测:Argon 擅长复杂文档写作,成本仅 Opus 一半 — bindureddy · 2026-10-16
- MAI-2 比 V4-Pro 大 2 倍，微软 scaling 阶梯效率存疑 — teortaxesTex · 2026-10-16
- 阶跃 Step 5 Preview 上线 DeepInfra:600B MoE、1M 上下文,百万 token 输入 $1 — StepFun_ai · 2026-10-16