加州拟赋予紧急关停权,并限制 AI 递归自我改进
ShakeelHashim · x · 2026-11-19
加州州长 Gavin Newsom 宣布强化该州的 AI 安全框架,发布强制性安全标准与监管的下一步措施,新增要点包括:
- 紧急关停权:对危险系统可实施应急关闭
- 所有 AI 开发者的基线安全标准
- 强制持续第三方监督
- 限制递归自我改进(RSI):约束能够开发出更强版本自身的 AI
Newsom 批评联邦政府未能建立任何有意义的 AI 监管,称加州不会等到为时已晚才行动,并直接抨击特朗普政府将 AI 监管留给公司自律的做法。这是美国州层面迄今最激进的 AI 强制监管框架之一。
所属事件:加州州长发布 AI 安全报告:建议紧急关停权与算力上限(8 条相关)→
「安全」频道最新
- 为 AI 实验室员工建签证庇护非营利组织的呼吁 — AaronBergman18 · 2026-11-19
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19