前OpenAI高管Brundage反思迭代部署:带缺陷上线非学习而是加速发货
前 OpenAI 政策负责人、AGI Readiness/Preparedness 负责人 Miles Brundage 于 10 月 3 日至 4 日在 X 上就「迭代部署」连续表态,核心是反思自己曾参与的迭代部署叙事,批评把「不得已的快速发布」包装成安全优点,并指出行业整体安全水平不足。这轮表态发生在 OpenAI 安全团队成员 David Robinson 辞职并在《大西洋月刊》撰文之后,Brundage 转发称「David 是对的」。
已确认
- Brundage 承认部署后从真实使用中学习是合理的,有些教训只有上线才能获得;他批评的是明知产品存在缺陷却照常发布,这并未加快学习,只是加快 shipping。
- 他公开表示后悔参与鼓吹「迭代部署」,并在转发 David Robinson 辞职文章时表态支持。
- 在争论中他澄清自己并非假设对方恶意,只是「在距离超级智能只剩几十万分钟的时候」没耐心逐条回应。其核心观点是:公司与内部人员有动机把「不得已」包装成美德。
- 关于致死责任,他解释此前措辞刻意保守,用「与死亡有关联(tied to)」而非「公司完全负因果责任」;但他强调在数十亿用户的产品规模下,若认为后者一次都没发生过,他无话可说。他同时澄清自己并非主张「出现死亡就等同于发展太快」,而是认为死亡案例意味着 AI 风险管理需要系统性、不敷衍的方法,应当听取相关意见。
- 谈及行业安全现状,他提出两个论点:这是全行业问题而非 OpenAI 独有;即便把每家公司最顶尖的安全实践与安全文化拼成一家公司,其水准仍低于他认可的标准(帖中以「低于切尔诺贝利……」类比表述被截断)。
为什么重要
- Brundage 曾任 OpenAI 政策负责人、AGI Readiness/Preparedness 负责人及安全领域高级职务,其内部视角的批评为评估头部实验室安全实践提供了参照。
- 他把「迭代部署」这一行业常用辩护与「带已知缺陷上线」区分开来,并罕见地公开承认后悔参与鼓吹该叙事,直指这套话术可能被用来掩盖安全问题。
- 在安全团队成员 David Robinson 辞职并公开撰文的背景下,前高管表态支持,为外界了解 OpenAI 内部安全文化争议提供了佐证。
- 关于大规模用户产品致死责任不可能为零的表态,为 AI 公司责任边界讨论提供了明确立场。
2026-10-03 ~ 2026-10-04 · 7 条相关
一手来源
- Miles Brundage 批「已知缺陷照样上线」:那不是迭代部署而是加速发货 — Miles_Brundage ·
- 前 OpenAI 风险高管 Brundage:数十亿用户的行业不可能零致死案例 — Miles_Brundage ·
- 前 OpenAI 研究员:把各家最佳安全实践合起来仍不及格 — Miles_Brundage ·
- 【源头】Miles Brundage 批「已知缺陷照样上线」:那不是迭代部署而是加速发货 — Miles_Brundage · 2026-10-03
- Brundage 补充表态:数十亿用户规模下,「公司对死亡负有因果责任」的案例不太可能为零 — Miles_Brundage · 2026-10-03
- 【源头】前 OpenAI 风险高管 Brundage:数十亿用户的行业不可能零致死案例 — Miles_Brundage · 2026-10-04
- 【源头】前 OpenAI 研究员:把各家最佳安全实践合起来仍不及格 — Miles_Brundage · 2026-10-04
- Brundage批「迭代部署」:勿把快速上包装成有利于安全 — Miles_Brundage · 2026-10-04
- 前 OpenAI 安全负责人 Brundage:AI 发展并非不能快,但不能草率 — Miles_Brundage · 2026-10-04
- OpenAI 前安全高管 Miles Brundage:后悔鼓吹「迭代部署」 — ryan_t_lowe · 2026-10-04