OpenAI 暂停部分前沿训练以应对能力与安全脱节
trevposts · x · 2026-08-19
Sam Altman 宣布 OpenAI 已暂停部分前沿 RL（强化学习）训练，以确保对齐、安全和监控标准能跟上新级别的模型能力。Altman 指出模型进步极其迅速，安全对齐的节奏已落后于能力发展，并强调安全信心将日益成为 AI 进度的决定因素。此举旨在防止模型能力失控，并呼吁全行业协调统一安全标准。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「公司和人」频道最新
- YC 旗下 Minerva 把 AI 带进 3000 人小镇，并收购多家会计师事务所 — ycombinator · 2026-10-16
- 马斯克点头：为个人智能体打造的电商新物种真有戏？ — elonmusk · 2026-10-16
- 欧盟拟快速放行卫星合资企业，被指仍落后 SpaceX 三年 — robleclerc · 2026-10-16
- YC F26 新公司 Particularity 亮相,主打监管合规 AI — ycombinator · 2026-10-16
- 记者复现 Marc Andreessen 14 岁写的 BASIC 代码，系其最早作品之一 — dinabass · 2026-10-16
- Mila 开放 2027 秋季申请，招募多语言 LLM 方向博士生 — hugo_larochelle · 2026-10-16