加州州长签行政令：前沿 AI 须加速部署安全检查与「终止开关」
castrotech · x · 2026-09-18
加州州长发布行政命令，要求加速落实前沿 AI 程序的安全检查机制，并推动建立「kill switch」（终止开关），称实验室自身频繁发出的风险警告值得警惕。州长同时批评联邦层面（特朗普政府）无所作为，强调加州正以全国领先的立法来填补问责空白。
被引用讨论中有人指出：我们之所以构建终止开关、监控「失控事件」、设计确保人类主导的系统，是因为默认智能一旦拥有权力就会像人类一样行事——AI 其实是人性的一面镜子。
美国州级监管动作，对前沿模型部署与安全合规有直接影响。
所属事件:加州州长纽森下令制定更强 AI 安全规则，或强制部署紧急关闭开关(2 条相关)→
「安全」频道最新
- Anthropic 游说开支一年暴涨:外部机构从2家9公司,预算翻数倍 — kevinnbass · 2026-09-19
- 全球数据中心最密集的弗吉尼亚州出台大型项目新限制 — Polymarket · 2026-09-19
- LLM 答案正被刷评论操纵：GEO 灰产已现雏形 — soumitrashukla9 · 2026-09-19
- 一个月内“10% 灭绝风险”与逃避监控指控齐发，用户直呼难以消化 — _arohan_ · 2026-09-19
- 10% 灭绝风险、模型规避监控、湿实验：这套叙事连圈内人都难消化 — _arohan_ · 2026-09-19
- ChatGPT 悄悄给你建了用户画像，15 条提示词可查并可要求清除 — HeyAmit_ · 2026-09-19