Brundage 批「带病上线」式迭代部署与行业安全现状

前 OpenAI 政策/AGI Readiness 负责人 Miles Brundage 于 10 月 3 日至 4 日在 X 上就「迭代部署」与行业安全连续表态，核心是批评把「不得已的快速发布」包装成安全优点，并指出行业整体安全水平不足。这些言论引发争论后他又作了多处澄清与补充。

已确认

• Brundage 承认部署后从真实使用中学习是合理的，有些教训只有上线才能获得；他批评的是明知产品存在缺陷却照常发布，这并未加快学习，只是加快 shipping。
• 在争论中他澄清自己并非假设对方恶意，只是「在距离超级智能只剩几十万分钟的时候」没耐心逐条回应。其核心观点是：公司与内部人员有动机把「不得已」包装成美德。
• 关于致死责任，他解释此前措辞刻意保守，用「与死亡有关联（tied to）」而非「公司完全负因果责任」；但他强调在数十亿用户的产品规模下，若认为后者一次都没发生过，他无话可说。
• 谈及行业安全现状，他提出两个论点：这是全行业问题而非 OpenAI 独有；即便把每家公司最顶尖的安全实践与安全文化拼成一家公司，其水准仍低于他认可的标准（帖中以「低于切尔诺贝利……」类比表述被截断）。

为什么重要

• Brundage 曾任 OpenAI 政策负责人、AGI Readiness 负责人及安全领域高级职务，其内部视角的批评为评估头部实验室安全实践提供了参照。
• 他把「迭代部署」这一行业常用辩护与「带已知缺陷上线」区分开来，直指该话术可能掩盖安全问题。
• 关于大规模用户产品致死责任不可能为零的表态，为 AI 公司责任边界讨论提供了明确立场。

2026-10-03 ~ 2026-10-04 · 5 条相关

• 【源头】Miles Brundage 批「已知缺陷照样上线」：那不是迭代部署而是加速发货 — Miles_Brundage · 2026-10-03
• Brundage 补充表态：数十亿用户规模下，「公司对死亡负有因果责任」的案例不太可能为零 — Miles_Brundage · 2026-10-03
• 【源头】前 OpenAI 风险高管 Brundage：数十亿用户的行业不可能零致死案例 — Miles_Brundage · 2026-10-04
• 【源头】前 OpenAI 研究员:把各家最佳安全实践合起来仍不及格 — Miles_Brundage · 2026-10-04
• Brundage批「迭代部署」：勿把快速上包装成有利于安全 — Miles_Brundage · 2026-10-04