前OpenAI政策负责人Brundage：AI安全是社会技术问题，security应列政策最高优先级
前 OpenAI 政策负责人 Miles Brundage 于 09-17 发布系列长推，并于 09-18 撰文补充，系统阐述了他对 AI 安全问题性质与政策优先级的判断：AI 安全不是纯技术问题，而是社会技术问题，不存在一劳永逸的单一解；他主张把「安全」（security，即 AI 技术不被窃取或篡改）列为最高 AI 政策优先级，并称安全进展与能力增速不匹配是主张放慢节奏的最强论据。
已确认
- Brundage 指出，反对监管的人把 AI 安全框定为「纯技术问题」是一种偷换概念——这样显得容易解决，也让行业更难被批评。
- 他将 AI 安全类比航空、核电、医疗等复杂社会技术系统：在没有约束、时间压力和竞争的环境下，人会做蠢事、偷懒、陷入群体思维，单靠技术修复无法根治。
- 他强调 AI 的「安全收益再投资」效应：安全带来的余量会表现为更大的预训练、更难的 RL 环境、更多测试时算力、更宽松的互联网访问等；AI 能力与部署没有明确天花板，不会有公司宣布「够了，我们安全了」然后停下。
- 离散的安全改进不够，收益会被再投入新风险；即使明天就有了把前沿模型做到完美安全/对齐的配方（他强调现实中并没有），公司仍会因竞争在追求下一层级模型时抄近路。
- 类比核电站：即便针对特定反应堆设计有大量具体安全方案，也从未有过普适的「一次解决」方案，AI 同理，只能持续迭代。
- 他提出判断标准：无法经受危险系统历史回测的 AI 监管理论不可信；单个不当行为本身并非世界末日，但若不设置护栏就可能酿成大祸。
- 09-18 他进一步撰文，主张把「安全」（security）列为最高 AI 政策优先级，即防止 AI 技术被窃取或篡改，并解释了自己转向这一议题的原因；他同时表态，若在安全（security）上有更多可贡献之处，他会去做这件事，并遗憾指出安全进展与 AI 能力发展速度并不相称——这或许是主张放慢节奏的最强论据。
为什么重要
- 这是来自前 OpenAI 政策负责人的系统性论述，直接反驳「AI 安全只是技术问题、无需监管」的叙事，为 AI 治理讨论提供了概念框架。
- 「安全收益再投资」与「无能力天花板」的论点意味着安全问题会随能力扩展持续累积，对政策制定与公司治理均有直接含义。
- 他把防窃取、防篡改的 security 提到最高政策优先级，并直言安全进展跟不上能力增速，为「放慢节奏」阵营提供了来自前头部厂商内部人士的论据。
2026-09-17 ~ 2026-09-18 · 9 条相关
- 第 1 集:前OpenAI政策负责人Brundage宣布全力推动前沿AI审计(2026-09-16,9 条)
- 第 2 集:前OpenAI政策负责人Brundage：AI安全是社会技术问题，security应列政策最高优先级(2026-09-17,9 条)
一手来源
- Miles Brundage：防窃取与防篡改应成 AI 政策最高优先级 — Miles_Brundage ·
- Brundage：AI 能力没有终点，厂商不会主动"见好就收" — Miles_Brundage ·
- Brundage：反监管者把 AI 安全说成纯技术问题，是在偷换概念 — Miles_Brundage ·
- 【源头】Brundage：反监管者把 AI 安全说成纯技术问题，是在偷换概念 — Miles_Brundage · 2026-09-17
- Brundage：即使有完美安全配方，竞争仍会诱使厂商抄近路 — Miles_Brundage · 2026-09-17
- Brundage：AI 安全不会有一劳永逸的单一解，正如核安全 — Miles_Brundage · 2026-09-17
- Brundage：AI 安全本质是航空核能同款的社会技术系统问题 — Miles_Brundage · 2026-09-17
- Brundage：离散的安全改进不够，收益会被再投入新风险 — Miles_Brundage · 2026-09-17
- 【源头】Brundage：AI 能力没有终点，厂商不会主动"见好就收" — Miles_Brundage · 2026-09-17
- Miles Brundage:无法经受危险系统历史回测的 AI 监管理论不可信 — Miles_Brundage · 2026-09-17
- 【源头】Miles Brundage：防窃取与防篡改应成 AI 政策最高优先级 — Miles_Brundage · 2026-09-18
- Brundage：AI 安全进展远跟不上能力增速，这是放慢的最强论据 — Miles_Brundage · 2026-09-18