加州发布前沿 AI 监管建议:强制安全标准、关停协议与 RSI 监控
Miles_Brundage · x · 2026-11-19
加州政府发布强化前沿 AI 监管的官方建议,核心包括:政府强制执行的 AI 安全基线标准、合规独立核查、带州政府紧急接入权的强制关停协议、以及限制 AI 递归自我改进(RSI)的能力。安全组织 AVERI 表示支持,并呼吁州长召开特别会议或动用现有权力立即落实,不等立法日程;报告还建议以 AI 研发投入而非营收来界定「大型前沿开发商」,并将监控迈向递归自我改进的迹象列为 IVO 生态首要任务。
所属事件:加州州长发布 AI 安全报告:建议紧急关停权与算力上限(8 条相关)→
「安全」频道最新
- 为 AI 实验室员工建签证庇护非营利组织的呼吁 — AaronBergman18 · 2026-11-19
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19