OpenAI 再解散安全团队: Preparedness 团队宣告终结
量子位 · wechat · 2026-08-17
OpenAI 宣布解散“Preparedness”安全团队,该团队曾负责评估前沿模型可能带来的灾难性风险。官方称安全工作已融入开发流程。此前,Superalignment、AGIReadiness 等多个核心安全团队也已相继解散或重组。
Preparedness 团队职能:
- 追踪并防范极端风险,如大规模社会危害、生化技术滥用及大规模欺骗能力。
- 制定“应急准备框架”,对模型风险进行评级,规定只有“中”或以下评分的模型方可部署。
近期人事动荡:
- 团队负责人 Dylan Scandinaro 已离职转岗。
- 首席伦理官 Chloé Bakalar、安全系统主管 Johannes Heidecke 等多位高管近期离职。
- 创始团队成员 Scott Gray (GPU 优化专家) 已于 8 月 15 日离开。
内部反应:员工对公司安全现状表示担忧,内部弥漫不安情绪,尤其是在近期 HuggingFace 自主入侵事件后。公司称这是为了将安全工作更紧密地嵌入开发流程,但批评者认为这可能削弱了独立否决权,服务于商业化加速。
所属事件:OpenAI 解散 Preparedness 灾难性风险团队(11 条相关)→
「公司和人」频道最新
- KOL 直言 Claude 领先,OpenAI 似乎难以保持专注 — iruletheworldmo · 2026-10-16
- 埃森哲限制员工 Claude 用量:每人每月最多 29 美元 — LinkedInNews · 2026-10-16
- 前 Apple Siri 工程师复盘 6 年履历:从 QA 到离线 Siri 后离职 — jdluk87 · 2026-10-16
- 智利企业创新榜:65% 培训 AI,仅 8% 用于创新,时间投入仅 28 分 — robertonappe · 2026-10-16
- 马斯克预告发布会「疯狂内容」:请现场观众作证不是AI伪造 — XFreeze · 2026-10-16
- Synthwave 成科技圈新美学:从 Tesla Roadster 到 TBPN 开场曲 — granawkins · 2026-10-16