OpenAI 放慢前沿模型训练,三大安全领域同步加固
joshua_saxe · x · 2026-08-20
Sharon Goldman 报道:OpenAI 在宣布放慢前沿模型训练的记者会上,研究副总裁 Mia Glaese 与首席科学家 Jakub Pachocki 表示正从监控、对齐、安全与遏制措施三方面加强安全。
放缓动因有三个:OpenAI-Hugging Face 安全事件;即将推出的 Astra 模型可能触及 Preparedness Framework 下的「关键网络安全能力阈值」的初步证据;以及内部进展速度过快。作者追问为何发布会上没有任何 OpenAI 安全人员(如 CISO)出席,发言人回应称这「最终是一个研究层面的决定」,安全只是重要利益相关方而非决策者——凸显 AI 研究与网络安全的边界正在消失:随着 agent 能写代码、用工具、接触真实系统,围绕模型的安全控制必须跟上。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「模型」频道最新
- Meta 开放权重模型 Muse Spark Open 上架 Ollama:1M 上下文、可接 Claude Code — ollama · 2026-10-16
- 网友晒「Opus 5.5」拼贴作品:模型开始有品味,护城河不存在 — yuwen_lu_ · 2026-10-16
- PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB 可跑手机 — gajesh · 2026-10-16
- 苹果 MLX 让 816B 模型跑在 4 台 Mac Studio 上,36+ tokens/秒 — andrejusb · 2026-10-16
- vLLM 首日支持 Meta 816B 开放权重模型 Muse Spark Open — woosuk_k · 2026-10-16
- 同题三包实测:Claude Opus 5.5 全面优于 Gemini 3.8 Flash,token 却只用一半 — umeshonai · 2026-10-16