加州州长发布 AI 安全报告:建议紧急关停权与算力上限
11 月 19 日,加州州长 Gavin Newsom 宣布强化该州 AI 安全框架:GovOps 会同 Cal OES 与四位专家——Alondra Nelson(普林斯顿)、Jason Goldman、Robert Reich(斯坦福)与 Gillian Hadfield(约翰霍普金斯)——发布报告《AI Safety in 2026 and Beyond》,提出多项强制性监管建议。报告被多方解读为要求紧急行动的号召,也是加州 AI 安全治理的下一步措施。
已确认
- 紧急关停权:政府可对危险 AI 系统实施应急关闭,并拥有紧急状态下令权与责令整改权
- 基线安全标准:适用于所有 AI 开发者,由州政府而非企业自行制定
- 强制持续第三方监督:针对先进 AI 开发
- 限制 RSI 算力:对递归自我改进(recursive self-improvement)相关算力设上限;报告还要求披露前沿研发的算力占比
- 强制嵌入评估器:要求在模型中嵌入评估器(embedded evaluators)
- 修订法律适用范围:确保现有法律覆盖先进 AI
- 报告由州长办公室正式发布;多位转帖者引述 OpenAI 前政策人员 Seth Lazar 与 Encord 联合创始人 Sneha Revanur 的评价,称其为全球范围内管控 RSI 风险的最佳政策机会
为什么重要
- 这是州长层面牵头、具强制性取向的 AI 安全治理方案,标志着加州从自愿承诺向强制监管推进
- 若落地,紧急关停权、嵌入评估器与算力上限将对前沿 AI 公司的研发和部署构成直接约束
- 在联邦层面监管缺位的背景下,该方案对其他地区具有示范意义;披露算力占比等要求也可能提高前沿研发透明度
2026-11-19 ~ 2026-11-19 · 8 条相关
一手来源
- 加州拟赋予紧急关停权,并限制 AI 递归自我改进 — ShakeelHashim ·
- 加州州长专家组报告建议:紧急关停权、强制安全标准与算力上限 — trevposts · 2026-11-19
- 【源头】加州拟赋予紧急关停权,并限制 AI 递归自我改进 — ShakeelHashim · 2026-11-19
- 加州州长发布 AI 安全报告,建议强制基线标准与紧急关停权 — sjgadler · 2026-11-19
- 加州专家小组建议 AI 紧急关停权与强制第三方监督 — Miles_Brundage · 2026-11-19
- 加州 AI 安全报告提硬招:披露前沿研发算力占比、限制 RSI — sethlazar · 2026-11-19
- 加州州长 AI 政策报告:强制嵌入评估器、限制递归自我改进 — mattsheehan88 · 2026-11-19
另有 2 条近重复转述:Manderljung · Miles_Brundage