OpenAI 暂停部分前沿训练以加强安全监控
geoffreyirving · x · 2026-08-19
针对 OpenAI 愿意投入 20% 的研究推理算力用于思维链监控的传闻，Merett（OpenAI 员工）回应称，团队确实暂时放缓了部分前沿模型的训练，以加强安全性和监控措施。最大规模的前沿 RL 训练仍处于暂停状态，同时利用较小规模的训练和评估来测试保障措施并收集更多对齐证据。Merett 强调，对安全的信心将日益决定 AI 发展的步伐，并呼吁实验室和国家之间建立协调工具。
所属事件:OpenAI 因安全与对齐风险首次暂停前沿 RL 训练(49 条相关)→
「公司和人」频道最新
- YC 旗下 Minerva 把 AI 带进 3000 人小镇，并收购多家会计师事务所 — ycombinator · 2026-10-16
- 马斯克点头：为个人智能体打造的电商新物种真有戏？ — elonmusk · 2026-10-16
- 欧盟拟快速放行卫星合资企业，被指仍落后 SpaceX 三年 — robleclerc · 2026-10-16
- YC F26 新公司 Particularity 亮相,主打监管合规 AI — ycombinator · 2026-10-16
- 记者复现 Marc Andreessen 14 岁写的 BASIC 代码，系其最早作品之一 — dinabass · 2026-10-16
- Mila 开放 2027 秋季申请，招募多语言 LLM 方向博士生 — hugo_larochelle · 2026-10-16