加州州长 AI 专家组建议:紧急关停权、强制第三方监督、限制 RSI 算力
Manderljung · x · 2026-11-19
加州州长 Newsom 召集的 AI 专家组(普林斯顿 Alondra Nelson、Stanford Robert Reich、Johns Hopkins Gillian Hadfield 等)发布建议报告,呼吁紧急行动应对先进 AI 的公共安全风险。核心建议包括:
- 有约束力的基线安全标准;
- 每个大型前沿模型开发商须接受州许可的独立验证机构(IVO)持续监督,并授予其完全访问权限;
- 紧急关停权限;
- 州政府对递归自我改进(RSI)保持可见性,并有权在必要时限制其算力。
评论指出,未来数月将决定这些建议是停留在纸面,还是州长与立法机构能协作落地。
所属事件:加州州长发布 AI 安全报告:建议紧急关停权与算力上限(8 条相关)→
「安全」频道最新
- 为 AI 实验室员工建签证庇护非营利组织的呼吁 — AaronBergman18 · 2026-11-19
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19