OpenAI 安全透明度负责人 David Robinson 离职,安全团队持续动荡
量子位 · wechat · 2026-10-03
据 Business Insider 报道,OpenAI Safety Systems 团队内负责「安全透明度」的 David Robinson 已离职,本人未公开原因,公司也未公布继任者。
- Robinson 团队的核心产出是每次重要模型发布时的 system card(常达几十页),说明模型的训练方法、安全评估、生物/网络攻击等高风险领域能力及残余风险,被比作食品包装上的「营养成分表」。
- 他还是《Preparedness Framework 2.0》的主要起草人,新增追踪生物化学、网络安全与 AI 自我改进三类能力,达到 High 需部署前加防护,达到 Critical 则需质疑是否继续开发。
- 离职前他还在招聘 OpenAI 首位 Safety Transparency Editor;他在 X 上表示 OpenAI 内部刚开始意识到高能力 AI 的影响,并认同「竞逐 RSI 既疯狂又傲慢」的看法。
- 此前《华尔街日报》报道 OpenAI 开除了三名安全/对齐研究员(Jasmine Wang、Tomek Korbak、Mikita Balesni),理由是向外部 AI 安全机构分享敏感信息。从 Dario Amodei 时代起,OpenAI 安全团队人事变动不断。
所属事件:OpenAI资深安全负责人Robinson离职并撰文批安全文化(10 条相关)→
「公司和人」频道最新
- Palo Alto Networks 45 亿美元收购 OpenAI 前研究员创办的 Applied Compute — KateClarkTweets · 2026-11-19
- FT:赶工修复 AI 找出的 bug,导致美国科技公司频繁宕机 — nordicinst · 2026-11-19
- 斯坦福课堂实验:AI 让学生 80 分钟内从想法到可运行原型 — HariSubramonyam · 2026-11-19
- marclou 办 10 万美元黑客松:30 天内须做出盈利的真生意 — marclou · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 曝马斯克挖角 NVIDIA:若黄仁勋离任可整体跳槽 SpaceX Terafab — inductionheads · 2026-11-19