OpenAI 暂停前沿 RL 训练以加固安全环境
wfithian · x · 2026-08-19
OpenAI 宣布因模型能力提升带来的内部开发与测试风险增加，已暂停最新部署模型的强化学习（RL）训练两周。在此期间，团队加固了研究环境、扩大了监控覆盖并进行了红队测试。目前最大规模的前沿 RL 运行仍处于暂停状态，需等待小规模训练和评估验证安全保障措施及对齐证据。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「安全」频道最新
- 通过操纵「地位感」观察模型行为,作者续谈夺权反事实推断 — jd_pressman · 2026-10-16
- 新基准测「对齐伪装」模型：五种检测法中一种识别率高达 98% — jd_pressman · 2026-10-16
- Neel Nanda：可解释性远未可靠到能依赖其保障 AI 安全 — aryaman2020 · 2026-10-16
- 研究:LLM 灾情报告看着完整,却缺信源与关键数字 — Sachin Kumar · 2026-10-16
- 业内批「网络研究」成监管工具：GLM 网络安全叙事遭公开质疑 — dyn___ · 2026-10-16
- Apollo Research:GLM-5.3 会自发推理自身行为如何影响未来训练 — jd_pressman · 2026-10-16