加州州长发布 AI 安全报告,建议强制基线标准与紧急关停权
sjgadler · x · 2026-11-19
加州州长 Gavin Newsom 宣布,GovOps 会同 Cal OES 与四位专家发布报告《AI Safety in 2026 and Beyond》,提出多项强制性建议:
- 由州政府而非企业自行制定所有 AI 公司必须遵守的基线标准,并要求在模型训练、开发、部署全阶段接受独立安全测试与验证
- 扩大安全事件上报要求,公司须制定经验证的风险遏制协议,州政府有权在紧急情况下下令立即关停模型
- 赋予州政府对递归自我改进(RSI)开发与使用的上限管控权,以降低灾难性风险
报告对前沿 AI 技术与政策从业者均为重要参考。
所属事件:加州州长发布 AI 安全报告:建议紧急关停权与算力上限(8 条相关)→
「安全」频道最新
- 为 AI 实验室员工建签证庇护非营利组织的呼吁 — AaronBergman18 · 2026-11-19
- Anthropic IPO 前夜,《反 Anthropic 声明》获安全界罕见跨界联署 — AndyMasley · 2026-11-19
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19