OpenAI 放缓部分先进训练以加速安全工作
pstAsiatech · x · 2026-08-22
OpenAI 全球事务负责人 Chris Lehane 表示，随着 AI 能力加速发展，标准也必须提高。
为应对未来模型（尤其是网络安全方面）可能具备的强大能力，OpenAI 正在采取以下措施：
- 放缓部分训练：暂停部分最先进训练规模的扩展，以加速保障措施的研发。
- 暂停强化学习：对拟发布模型进行了为期两周的强化学习暂停；最大规模的训练计划仍处于搁置状态，小规模训练和测试继续进行。
- 加强安全措施：扩大监控范围以检测令人担忧的行为；更早地在训练过程中应用安全措施（不仅是在发布准备阶段）；加强开发环境的安全性。
此外，OpenAI 还预览了“Private Safety Processing”，旨在满足最严格隐私要求的客户安全需求。
「公司和人」频道最新
- 黄仁勋做客 BG2 播客:谈 AI 收入能否撑起 Capex 与 2027 瓶颈 — elonmusk · 2026-10-16
- Meta 广告仍是本地媒体增长首选:UGC 风素材效果最佳 — TJLarkin23 · 2026-10-16
- Anthropic 开放类员工权限，METR 等第三方评估者将公开风险报告 — AnthropicAI · 2026-10-16
- 英伟达携手瑞典 Wallenberg，Launch 共享 AI 超算 Sferical One — nvidia · 2026-10-16
- 普林斯顿教授 Hazan 宣布即将启动对齐与安全研究新机构 — HazanPrinceton · 2026-10-16
- Ollama CEO：月活 890 万开发者，财富 500 强正悄悄转向开源模型 — ollama · 2026-10-16