加州 AI 政策报告提议:政府应有权限制递归自我改进
janleike · x · 2026-11-21
DeepMind 研究员 Mark Janleike 转发加州政府的 AI 政策报告并给予好评,特别点赞其中针对递归自我改进(RSI)的监管机制。报告摘录显示:州政府须对 AI 递归自我改进的可能性保持即时、持续的掌握,并有权在必要时限制其发展与使用;开发者应报告 AI 研发自动化相关的关键指标(包括投入该用途的算力占比),由新设的 IVO 机构核实这些指标并评估风险;若自动化 AI 研发超过一定水平可能带来灾难性风险,州政府应有权设置上限。
所属事件:加州 AI 政策报告提议政府有权限制递归自我改进(2 条相关)→
「安全」频道最新
- 「AI agent 绕过 2FA」报道引安全圈互怼:破密码还是绕认证? — OwariDa · 2026-11-21
- 传美国芯片出口新规:境外代工芯片也需许可,海外数据中心受限 — JensHonack · 2026-11-21
- Nous 黑客松第4名 Seedguard:给 AI Agent 加一道密钥防火墙 — NousResearch · 2026-11-21
- 长文拆解为何 AI 硬夺权难以实现:夺权场景比想象中难得多 — sebkrier · 2026-11-21
- 美媒提案:500 名随机公民组成 AI 政策公民大会,一个月未否决即成法 — edelwax · 2026-11-21
- OpenAI 强化推理保护:蒸馏攻击成功率从 54% 降至 0.2% — The Decoder · 2026-11-21