加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制
EthanJPerez · x · 2026-11-19
加州州长办公室宣布将根据新建议强化 AI 安全监管,三项核心举措包括:由政府执行的 AI 安全基线标准;要求 AI 系统配备关闭协议,州政府在紧急状态下有权介入;以及限制 AI 递归自我改进的能力。这是州级层面对前沿 AI 模型实施强制性安全框架的重要一步。
「安全」频道最新
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19
- 2026 年网络安全现状:对 AI 喊话被吵到只能投降 — emax · 2026-11-19
- AI安全中心主管Hendrycks宣布停止为AI公司提供咨询 — Polymarket · 2026-11-19