OpenAI 暂停部分前沿训练以应对安全对齐挑战
sama · x · 2026-08-19
OpenAI 宣布已暂停部分前沿强化学习训练，以确保对齐、安全与监控标准能跟上当前模型能力的快速进步。Sam Altman 强调，当能力发展超过安全对齐步伐时会采取行动，并认为整个行业需协调共享安全标准，但 OpenAI 会在短期内单边行动。公司对正在进行对齐工作持乐观态度，仍致力于广泛开放前沿能力。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「漫话AGI」频道最新
- 《幕府将军2》复刻版遭差评轰炸，开发者热议 AI 放大画质背锅 — draginol · 2026-10-16
- Pedro Domingos：每个人都该有自己的专属模型 — pmddomingos · 2026-10-16
- 可解释性研究者泼冷水：模拟不了神经元就不算真正解释了它 — nabla_theta · 2026-10-16
- 从优化结果到教 AI 行善：美德伦理能否进入对齐科学 — joelbot3000 · 2026-10-16
- 教授:推荐信季我在评价「学生 + Claude」的组合 — RoozbehMottaghi · 2026-10-16
- 网友预测黎曼猜想明年内被 AI 攻破 — gautamcgoel · 2026-10-16