加州州长 AI 政策报告:强制嵌入评估器、限制递归自我改进
mattsheehan88 · x · 2026-11-19
加州州长纽森发布的 AI 政策报告提出多项强力监管建议:
- 强制在模型中嵌入评估器(embedded evaluators)
- 授予州政府紧急状态下令权与责令整改权
- 授权州制定强制性最低安全标准
- 修订现有法律的适用范围,确保最前沿高风险模型与开发者被覆盖
- 通过限制可用于自动化 AI 研发的算力来控制前沿推进速度、限制递归自我改进
Thomas Woodside 评价这是一份非常有力的报告,呼吁州长与州议会尽快将其落为法律。州长账号亦强调将建立政府强制的基线安全标准、带紧急州访问权限的关停协议,以及限制 AI 递归自我改进的能力。
所属事件:加州州长发布 AI 安全报告:建议紧急关停权与算力上限(7 条相关)→
「安全」频道最新
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19
- 2026 年网络安全现状:对 AI 喊话被吵到只能投降 — emax · 2026-11-19