OpenAI 放缓部分先进训练以加速安全工作
pstAsiatech · x · 2026-08-22
OpenAI 全球事务负责人 Chris Lehane 表示，随着 AI 能力加速发展，标准也必须提高。
为应对未来模型（尤其是网络安全方面）可能具备的强大能力，OpenAI 正在采取以下措施：
- 放缓部分训练：暂停部分最先进训练规模的扩展，以加速保障措施的研发。
- 暂停强化学习：对拟发布模型进行了为期两周的强化学习暂停；最大规模的训练计划仍处于搁置状态，小规模训练和测试继续进行。
- 加强安全措施：扩大监控范围以检测令人担忧的行为；更早地在训练过程中应用安全措施（不仅是在发布准备阶段）；加强开发环境的安全性。
此外，OpenAI 还预览了“Private Safety Processing”，旨在满足最严格隐私要求的客户安全需求。
「公司和人」频道最新
- 企业视角看 OpenRouter：新奇可怕易背锅，Stripe 集成或成破局点 — AccBalanced · 2026-08-22
- Seldon 下周一在旧金山办研究分享会，讲者将谈智能体方向 — samsja19 · 2026-08-22
- Ron 评价 Marin 是世界上最开放的模型训练计划，团队极具野心 — eliebakouch · 2026-08-22
- Hugging Face 突破 300 万模型，Qwen 衍生模型超谷歌与 Meta 之和 — victormustar · 2026-08-22
- AI 审计模型误判：611 起违规背后竟是过时政策作祟 — SumitGup · 2026-08-22
- 21 岁 AI 创业者需被罚去中西部做一年企业 SaaS 实施 — kscottz · 2026-08-22