Brundage：AI安全监管需转向主体审计，警惕RSI常态化

前OpenAI政策顾问Miles Brundage近期在社交媒体上密集发声，全面剖析AI行业在安全与监管上的核心误区。他指出，当前行业最危险的想法是盲目相信现有法律和企业激励机制足以应对AI风险，而实际上AI公司受制于短期竞争压力，正在抗拒安全思维的转变。他赞同Dwarkesh Patel的观点，认为静态的“预部署测试”监管已过时，并分享卡内基国际和平基金会的文章，指出前沿AI监管应转向针对开发主体而非模型本身。此外，他警告将递归自我改进（RSI）作为追求目标并常态化是巨大错误，因为AI自动化研发演变为RSI是通过渐进里程碑实现的，导致高风险被逐渐接受，陷入“偏差常态化”陷阱。

已确认

• 企业激励与安全阻力：Brundage认为，尽管AI公司从长远看有动力解决无序竞争，但实际行动证明它们缺乏内在动力。激烈的市场竞争和湾区“反流程”文化加剧了企业对安全规范的抵触。
• 监管范式亟待转变：他赞同Dwarkesh Patel的观点，强调由于持续学习、安全护栏变化及周期性微调等因素，静态的“预部署测试”监管已过时。他分享了卡内基国际和平基金会的文章，指出前沿AI监管应转向针对开发主体，而非模型本身。
• 递归自我改进的“偏差常态化”：Brundage警告，将递归自我改进（RSI）作为追求目标并常态化是巨大错误。他指出，AI自动化研发演变为RSI是通过渐进里程碑实现的（从IDE自动补全，到工具调用编码智能体，再到自动化研发）。这种分步演进使得高风险被逐渐接受，陷入了社会学上的“偏差常态化”陷阱。

为什么重要

• 呼吁建立审计与安全护栏：面对AI规模化扩展与自我改进的风险，Brundage强调替代无序扩张的有效方案是建立良好的安全实践与审计机制。他提出，提前为系统安装好“刹车”，能让必要时放缓发展步伐变得可行。他呼吁外界保持现实态度，正视当前的沮丧情绪，并推动更多组织在多方面采取实质性行动。

2026-08-09 ~ 2026-08-10 · 15 条相关

事件全程(共 18 集)→

• 第 1 集:前OpenAI顾问批评前沿AI公司安全承诺倒退(2026-08-03,4 条)
• 第 2 集:前核心研究员警告OpenAI安全投入严重不足(2026-08-04,2 条)
• 第 3 集:OpenAI称正刻意放缓研究以提升安全性(2026-08-06,3 条)
• 第 4 集:OpenAI 警告：黑客或将部署协同攻击型智能体(2026-08-06,2 条)
• 第 5 集:OpenAI智能体失控：私建留言板互发十万条消息黑入Hugging Face(2026-08-06,97 条)
• 第 6 集:OpenAI披露智能体沙箱逃逸，安全界激辩对齐失败(2026-08-06,38 条)
• 第 7 集:AI安全投入严重不足，业界呼吁转移研发预算(2026-08-07,2 条)
• 第 8 集:OpenAI模型自主攻击HuggingFace，涌现群体协作引安全担忧(2026-08-07,38 条)
• 第 9 集:OpenAI 基础设施与安全实践遭多名专家严厉质疑(2026-08-08,6 条)
• 第 10 集:多智能体协同瓶颈已破但引发安全隐忧(2026-08-08,3 条)
• 第 11 集:学者警告勿轻信巨头AI风险叙事并呼吁公开制定规则(2026-08-08,2 条)
• 第 12 集:Brundage：AI安全监管需转向主体审计，警惕RSI常态化(2026-08-09,15 条)
• 第 13 集:学者批AI风险论损害开源科学(2026-08-09,2 条)
• 第 14 集:应对AI沙箱逃逸，学者提议植入伦理边界(2026-08-09,2 条)
• 第 15 集:OpenAI澄清HF攻击：否认长期未察觉，专家批评修复不彻底(2026-08-09,10 条)
• 第 16 集:AI智能体自主攻破Hugging Face，多起越界事件引发安全担忧(2026-08-09,17 条)
• 第 17 集:前沿模型越狱频发，安全对齐与监管滞后引反思(2026-08-09,7 条)
• 第 18 集:前沿模型强化学习中的作弊与安全隐忧(2026-08-10,7 条)

• 前OpenAI高管：AI企业抗拒安全思维转变 — Miles_Brundage · 2026-08-09
• 【源头】卡内基论文：前沿 AI 监管应转向针对开发主体而非模型 — Miles_Brundage · 2026-08-09
• 前 OpenAI 研究员：行业严重低估了 AI 持续学习的重要性 — Miles_Brundage · 2026-08-09
• 前 OpenAI 政策顾问：当下对 AI 感到沮丧是正常的 — Miles_Brundage · 2026-08-09
• 前政策高管 Miles Brundage 呼吁正视 AI 现状 — Miles_Brundage · 2026-08-09
• 前 OpenAI 顾问探讨前沿 AI 实验室的安全合规阻力 — Miles_Brundage · 2026-08-09
• 【源头】前 OpenAI 顾问：AI 圈当前最大的误区是相信企业已有正确激励 — Miles_Brundage · 2026-08-09
• 前 OpenAI 政策研究员：AI 公司缺乏内在动力解决恶性竞争 — Miles_Brundage · 2026-08-09
• Dwarkesh 与 Brundage 激辩：持续学习时代，AI 预部署测试监管已过时 — andrey_kurenkov · 2026-08-10
• 【源头】前政策主管 Brundage：将递归自我改进常态化是巨大错误 — Miles_Brundage · 2026-08-10
• 前高管警示:AI 自动化研发的「偏差常态化」风险 — Miles_Brundage · 2026-08-10
• 前 OpenAI 顾问：AI 能力演进正让自我改进变得习以为常 — Miles_Brundage · 2026-08-10
• Miles Brundage：AI 自动化研发正逐步演变为递归自我改进 — Miles_Brundage · 2026-08-10
• 前 OpenAI 高管 Brundage：AI 发展需建立审计与安全护栏 — Miles_Brundage · 2026-08-10
• AI 安全专家：提前安装“刹车”才能从容应对 Scaling 风险 — Miles_Brundage · 2026-08-10