Sam Altman 宣布暂停部分前沿 RL 训练，称安全将决定 AI 进步节奏
sjgadler · x · 2026-08-19
Sam Altman 发文表示，OpenAI 已暂停部分前沿 RL 训练，以确保在能力跃升前满足相应的对齐、安全与监控标准。他称模型进展目前极快，并重申如果能力超越安全与对齐的推进速度，公司就会采取行动。
他强调对 AI 安全的高度重视，认为全行业需要协调共同的安全标准，但在那之前 OpenAI 会单方面先行执行，并预计「对安全的信心将日益决定 AI 进步的速度」。Zvi 等安全社区人士对此表示欢迎，同时提醒后续细节与执行才是关键。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「模型」频道最新
- Gemini 4 Argon 上线 AssemblyAI 网关，语音基准 99.5 分居 50+ 模型之首 — AssemblyAI · 2026-10-16
- Meta 开放权重模型 Muse Spark Open 上架 Ollama：1M 上下文、可接 Claude Code — ollama · 2026-10-16
- 网友晒「Opus 5.5」拼贴作品:模型开始有品味,护城河不存在 — yuwen_lu_ · 2026-10-16
- PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB 可跑手机 — gajesh · 2026-10-16
- 苹果 MLX 让 816B 模型跑在 4 台 Mac Studio 上，36+ tokens/秒 — andrejusb · 2026-10-16
- vLLM 首日支持 Meta 816B 开放权重模型 Muse Spark Open — woosuk_k · 2026-10-16