OpenAI 暂停部分前沿 RL 训练，称安全监测需跟上能力步伐
GaryMarcus · x · 2026-08-19
OpenAI 宣布已暂停部分前沿强化学习 (RL) 训练，以确保安全标准能应对新级别的能力。
官方声明 (Sam Altman)：
- 原因：模型进展极快，若能力增长超过安全与对齐的步伐，将采取行动。
- 立场：深信全行业需协调共享安全标准，但在达成一致前将单方面行动。
- 展望：对正在进行的对齐工作保持乐观，并致力于让前沿能力广泛可用。
外界反应：
- 部分观点 (如 Gary Marcus 的支持者) 认为，暂停并非因为模型“太聪明”难以控制，反而是因为新模型相比 5.6 sol 进展不够大。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「公司和人」频道最新
- 研究员吐槽:公司发明显 AI 代笔的博客是对读者的不尊重 — nrehiew_ · 2026-10-16
- 苏黎世大学机器人感知组招多个全奖博士/博后,方向含世界模型与盲人空间 AI — HildeKuehne · 2026-10-16
- Anthropic 出资 500 万美元助数学界应对 AI 变革,Simons 基金会共投 1500 万 — AnthropicAI · 2026-10-16
- 图表显示 Meta 已 492 天无开源模型发布，Llama 4 成绝唱 — demian_ai · 2026-10-16
- 埃森哲收数十亿美元帮客户部署 AI，自家员工却没用上 — matt_slotnick · 2026-10-16
- Meta AI 负责人炮轰基准测试:把产品思维外包给了刷榜 — benno_krojer · 2026-10-16