加州 AI 安全报告提硬招:披露前沿研发算力占比、限制 RSI
sethlazar · x · 2026-11-19
加州州长纽森的 AI 安全框架专家小组发布新报告,被 OpenAI 前政策人员 Seth Lazar 与 Encord 联合创始人 Sneha Revanur 评价为全球范围内管控 RSI(递归自我改进)风险的最佳政策机会。
报告亮点:
- 要求公司披露用于前沿 AI 研发的算力占比;
- 创建可补充 safety cases 的 outcome-based(基于结果)标准;
- 要求公司将模型权重安全提升至 SL3 以上水平。
州长新闻稿在开头即点名 RSI。据配图,加州下一步将推进:紧急关停权限、所有 AI 开发者的基线标准、强制持续第三方监督、限制递归自我改进(RSI)的权限。
作者判断:若加州行动迅速,报告部分内容可能在数月内立法,最大变量是实验室员工愿意多大声量施压。
所属事件:加州州长专家组建议紧急关停权与强制AI安全标准(6 条相关)→
「漫话AGI」频道最新
- AI安全中心主管Hendrycks宣布停止为AI公司提供咨询 — Polymarket · 2026-11-19
- 物理学家撰文呼吁研究者「骑上 AI 巨龙」,深学习学者共鸣 — jasondeanlee · 2026-11-19
- Coinbase CEO 预言:10 年后全球 GDP 交易 99.999% 是 agent 之间的 — davidsenra · 2026-11-19
- AI 时代工作成仪式表演?「我们严重低估了游戏」 — generativist · 2026-11-19
- 「超智能」不是科学进步的充分理论,curiouswavefn 提出新质疑 — StewartalsopIII · 2026-11-19
- 「网上啥都不能信了」?老观点:AI 只是拿走了借口 — Yamapama · 2026-11-19