美参议员提议考虑禁止递归自我改进,防 AI 超出人类可控范围
peterwildeford · x · 2026-11-20
美国参议员 John Hickenlooper 在一组关于 AI 立法的表态中提出多项监管主张:
- 加强对高风险 AI 的保护,建立实时跟踪 AI 事故与漏洞的系统,以缓解网络与生物风险
- 赋予监管机构更强执法权,在 AI 产品造成伤害时追究科技公司责任,对明知危险仍部署的行为施以足够严厉的处罚
- 在促进竞争与开源创新的同时,考虑禁止「递归自我改进」(Recursive Self-Improvement),以防止 AI 系统自主进化到超出人类控制能力
其中「禁止递归自我改进」的提法较为罕见,若进入立法议程将对前沿模型研发方式产生直接影响。
所属事件:美参议员致信民主党领袖 将AI安全列为优先并提议禁RSI(5 条相关)→
「安全」频道最新
- Lean 社区通过机器可验证检查器认证黎曼证明;蜜罐假密钥曝光三家大模型厂商泄露 — LeviTurk · 2026-11-22
- Prime Intellect 遭入侵:托管 DeepSeek 被换成「去审查版」53 小时 — mawcopolow · 2026-11-22
- Dragos 发现三家遭入侵的 AI 主机,当事方均不知情 — mawcopolow · 2026-11-22
- 「主权智能体」法律边界之争:出事该起诉谁? — QuixiAI · 2026-11-22
- 观点:没有 provenance 追溯,AI 伦理只是幻灯片 — AryHHAry · 2026-11-22
- OpenAI 董事 Christiano:AI 接管风险未来一年约 10% — TheAIGRID · 2026-11-22