专题 · FULL STORY

Brundage 离开 OpenAI：投身前沿 AI 审计

前 OpenAI 政策负责人 Miles Brundage 于 9 月 16 日宣布离职后全力投入前沿 AI 审计事业，随后连发长推并撰文，系统阐述 AI 安全是社会技术问题且没有终点，引发行业关注。

2026-09-16 ~ 2026-09-18 · 2 集 · 18 条

第 1 集 · 前OpenAI政策负责人Brundage宣布全力推动前沿AI审计(2026-09-16,9 条)

前 OpenAI 政策负责人 Miles Brundage 于 9 月 16 日宣布，离职后将全面投入「前沿 AI 审计」事业，认为第三方审计值得行业自愿开展；但他同时强调，审计只是必要条件之一，且很容易做得流于形式。他随后在一连串推文中展开了一整套治理主张，并回应了「为何不谈暂停/减速」的外界质疑。

已确认

  • Brundage 提出具体监管主张：审计应在头部 AI 公司成为强制要求，并设定审计者资质、独立性、访问权限等最低标准；需要真正的安全标准，而不是「有一份（可能很弱的）政策并遵守它」就算合规。
  • 针对处罚力度，他指出目前「违反法律的代价不到一名高端工程师的年薪」，违规必须有真正严重的处罚；并呼吁加大生物安全、网络防御等社会脆弱领域的投入，以及对齐研究和能抵御 AI 赋能国家级攻击者的安全体系需要更严肃的投入。
  • 他主张强大的吹哨人保护机制：NDA 目前正阻碍从业者向政策制定者反映「尚未违法但危险」的信息。9 月 17 日他还转发 Lawfare 文章《Protecting AI Whistleblowers》，称让 AI 公司员工能向政府反映内部情况是「最容易想到的无脑共识」，能为未来每一部 AI 法案积累信息。
  • 他还提议建立 AI 事件强制共享机制，帮助公众了解发生了什么、支撑研究与政策设计；透明度要求应细化到完整披露系统的行为规范（behavioral spec/constitution）等细节。
  • 针对外界「为何不谈暂停/减速」的质疑，Brundage 回应称：先把审计做扎实（高标准、对不合规行为施以重罚、并建立让违规行为显而易见的机制），暂停或减速才可能顺利落地；其他治理工作无论如何都需要做，不必在单一行动或框架里二选一。做好审计机制后，必要的 AI 放慢会自然发生。
  • 他表示当下「感觉还行」，因为业界普遍对前沿 AI 缺乏充分掌控这一事实已开始被更广泛认识到——但这只是起步，「要做的事很多，时间不多了」。

为什么重要

  • Brundage 曾身处 OpenAI 政策与安全核心岗位，其转向独立推动审计，意味着前头部实验室高管对现有治理机制不足的直接回应，可能影响行业与监管议程。
  • 他将审计定位为暂停/减速类激进治理手段的前置条件，并辅以吹哨人保护、事故披露等配套主张，为「如何治理前沿 AI」的路线之争提供了一套可操作的中间路径。

第 2 集 · 前OpenAI政策负责人Brundage：AI安全是社会技术问题，security应列政策最高优先级(2026-09-17,9 条)

前 OpenAI 政策负责人 Miles Brundage 于 09-17 发布系列长推，并于 09-18 撰文补充，系统阐述了他对 AI 安全问题性质与政策优先级的判断：AI 安全不是纯技术问题，而是社会技术问题，不存在一劳永逸的单一解；他主张把「安全」（security，即 AI 技术不被窃取或篡改）列为最高 AI 政策优先级，并称安全进展与能力增速不匹配是主张放慢节奏的最强论据。

已确认

  • Brundage 指出，反对监管的人把 AI 安全框定为「纯技术问题」是一种偷换概念——这样显得容易解决，也让行业更难被批评。
  • 他将 AI 安全类比航空、核电、医疗等复杂社会技术系统：在没有约束、时间压力和竞争的环境下，人会做蠢事、偷懒、陷入群体思维，单靠技术修复无法根治。
  • 他强调 AI 的「安全收益再投资」效应：安全带来的余量会表现为更大的预训练、更难的 RL 环境、更多测试时算力、更宽松的互联网访问等；AI 能力与部署没有明确天花板，不会有公司宣布「够了，我们安全了」然后停下。
  • 离散的安全改进不够，收益会被再投入新风险；即使明天就有了把前沿模型做到完美安全/对齐的配方（他强调现实中并没有），公司仍会因竞争在追求下一层级模型时抄近路。
  • 类比核电站：即便针对特定反应堆设计有大量具体安全方案，也从未有过普适的「一次解决」方案，AI 同理，只能持续迭代。
  • 他提出判断标准：无法经受危险系统历史回测的 AI 监管理论不可信；单个不当行为本身并非世界末日，但若不设置护栏就可能酿成大祸。
  • 09-18 他进一步撰文，主张把「安全」（security）列为最高 AI 政策优先级，即防止 AI 技术被窃取或篡改，并解释了自己转向这一议题的原因；他同时表态，若在安全（security）上有更多可贡献之处，他会去做这件事，并遗憾指出安全进展与 AI 能力发展速度并不相称——这或许是主张放慢节奏的最强论据。

为什么重要

  • 这是来自前 OpenAI 政策负责人的系统性论述，直接反驳「AI 安全只是技术问题、无需监管」的叙事，为 AI 治理讨论提供了概念框架。
  • 「安全收益再投资」与「无能力天花板」的论点意味着安全问题会随能力扩展持续累积，对政策制定与公司治理均有直接含义。
  • 他把防窃取、防篡改的 security 提到最高政策优先级，并直言安全进展跟不上能力增速，为「放慢节奏」阵营提供了来自前头部厂商内部人士的论据。