加州 AI 政策报告提议:政府应有权限制递归自我改进

janleike · x · 2026-11-21

DeepMind 研究员 Mark Janleike 转发加州政府的 AI 政策报告并给予好评,特别点赞其中针对递归自我改进(RSI)的监管机制。报告摘录显示:州政府须对 AI 递归自我改进的可能性保持即时、持续的掌握,并有权在必要时限制其发展与使用;开发者应报告 AI 研发自动化相关的关键指标(包括投入该用途的算力占比),由新设的 IVO 机构核实这些指标并评估风险;若自动化 AI 研发超过一定水平可能带来灾难性风险,州政府应有权设置上限。

所属事件:加州 AI 政策报告提议政府有权限制递归自我改进(2 条相关)→

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →