加州州长报告将 RSI 列为首位,专家称限制 AI 研发算力是有效减速路径
gleech · x · 2026-11-20
加州一份州长面板报告引发 AI 政策圈关注,Sneha Revanur 与 Fabien Roger 等人点评其要点:
- 报告在州长新闻稿近顶部提及 RSI(递归自我改进)风险,被视为重要信号
- 报告提出若干尖锐建议:要求公司披露用于前沿 AI 研发的算力比例;建立可与 safety cases 互补的结果导向标准;将公司提升至 SL3 以上的模型权重安全标准
- Fabien Roger 认为限制 AI 研发算力支出是当前对前沿模型进行实质 pacing 最可行的路径之一
- Revanur 估计若加州行动迅速,报告部分内容可能在数月内成为法律,而实验室员工愿意多大力推动将是最大变量;她称这是当前全球管理 RSI 风险的第一大政策机会
所属事件:加州州长 AI 报告将递归自我改进风险列首位,获业界力挺(2 条相关)→
「安全」频道最新
- Perplexity Context API 新增 Decider:给网页打分防提示注入 — denisyarats · 2026-11-20
- 黑客把 API 里的 DeepSeek 换成去审查版,竟跑了两天 — moyix · 2026-11-20
- 有人公开质疑评测机构 METR 是 Anthropic 关联组织而非独立第三方 — gerardsans · 2026-11-20
- 开发者实测绕过 AI 安全护栏,披露技术细节 — speckx · 2026-11-20
- 美参议员公开信呼吁立法禁止递归自我改进,防AI失控 — S_OhEigeartaigh · 2026-11-20
- Luiza Jarovsky:AI 网络攻击上升,行业存在透明度危机 — LuizaJarovsky · 2026-11-20