加州专家小组建议 AI 紧急关停权与强制第三方监督
Miles_Brundage · x · 2026-11-19
纽森州长召集的专家小组(Alondra Nelson、Jason Goldman、Robert Reich、Gillian Hadfield)发布 AI 安全治理建议,被解读为要求紧急行动的号召。要点包括:
- 紧急关停权:政府可强制关闭先进 AI 系统
- 最低安全标准:对 AI 开发商设定强制性安全底线
- 强制第三方监督:引入外部审计与 oversight
- 算力上限授权:有权限制用于递归自我改进(RSI)研究的算力规模
多位加州 AI 政策圈人士(如 Nathan Calvin、Jason Goldman)转发点评,未来数周将决定这些建议能否落地为立法。
所属事件:加州州长发布 AI 安全报告:建议紧急关停权与算力上限(7 条相关)→
「安全」频道最新
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19
- 2026 年网络安全现状:对 AI 喊话被吵到只能投降 — emax · 2026-11-19