OpenAI 暂停前沿模型 RL 训练两周，拟发布技术报告
JeffLadish · x · 2026-08-19
OpenAI 在关于 Hugging Face 事件的博客文章中表示，随着模型能力增强，内部开发与测试的风险随之增长。公司已暂停针对部署的最新模型的强化学习（RL）训练两周，以加固和红队测试研究环境并扩大监控覆盖范围。其最大的前沿 RL 运行仍处于暂停状态，直到较小规模的训练和评估验证了这些安全保障措施并建立更多对齐证据。OpenAI 承诺将在未来几周发布关于此次事件经验教训的技术报告。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「公司和人」频道最新
- 研究员吐槽:公司发明显 AI 代笔的博客是对读者的不尊重 — nrehiew_ · 2026-10-16
- 苏黎世大学机器人感知组招多个全奖博士/博后,方向含世界模型与盲人空间 AI — HildeKuehne · 2026-10-16
- Anthropic 出资 500 万美元助数学界应对 AI 变革,Simons 基金会共投 1500 万 — AnthropicAI · 2026-10-16
- 图表显示 Meta 已 492 天无开源模型发布，Llama 4 成绝唱 — demian_ai · 2026-10-16
- 埃森哲收数十亿美元帮客户部署 AI，自家员工却没用上 — matt_slotnick · 2026-10-16
- Meta AI 负责人炮轰基准测试:把产品思维外包给了刷榜 — benno_krojer · 2026-10-16