OpenAI 暂停前沿模型强化学习训练 2 周，以强化安全措施
max_paperclips · x · 2026-08-19
OpenAI 宣布已暂停最新部署型模型的强化学习（RL）训练两周。此举是因为随着模型能力增强，内部开发与测试的风险也随之增长。暂停期间，团队加固了研究环境、进行了红队测试并扩大了监控范围。目前最大规模的计划性前沿 RL 训练仍处于搁置状态，等待小规模训练和评估验证安全护栏及对齐证据。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「公司和人」频道最新
- 研究员吐槽:公司发明显 AI 代笔的博客是对读者的不尊重 — nrehiew_ · 2026-10-16
- 苏黎世大学机器人感知组招多个全奖博士/博后,方向含世界模型与盲人空间 AI — HildeKuehne · 2026-10-16
- Anthropic 出资 500 万美元助数学界应对 AI 变革,Simons 基金会共投 1500 万 — AnthropicAI · 2026-10-16
- 图表显示 Meta 已 492 天无开源模型发布，Llama 4 成绝唱 — demian_ai · 2026-10-16
- 埃森哲收数十亿美元帮客户部署 AI，自家员工却没用上 — matt_slotnick · 2026-10-16
- Meta AI 负责人炮轰基准测试:把产品思维外包给了刷榜 — benno_krojer · 2026-10-16