Ro Khanna 提案禁止递归自我改进 AI,训练部署须联邦许可
castrotech · x · 2026-09-29
美国众议员 Ro Khanna 提出新的「Human Control Over AI Act」(人类对 AI 的控制法案),拟禁止递归自我改进(recursive self-improving)的 AI 模型,并对模型训练与部署设立联邦许可要求。
这是又一项针对前沿 AI 风险的立法尝试,评论人 castrotech 表示将跟进更多细节。
「安全」频道最新
- 研究者用注意力转向向量让模型吐出秘密,连评估感知场景也失效 — voooooogel · 2026-09-29
- 开发者曝 Opus 5.5 疑似硬编码「人类永远对」，堪称最隐蔽谄媚 — repligate · 2026-09-29
- OpenAI 宣布因安全顾虑不发布最新模型 Astra — jbegley · 2026-09-29
- Anthropic 招股书警示:先进 AI 或对人类构成灭绝级风险 — Polymarket · 2026-09-29
- 盖茨称 AI「足以引发十亿人死亡」,为何我们仍不当回事？ — king_vis · 2026-09-29
- 前 OpenAI 安全高管 Miles Brundage 批评 CAISI 缺乏独立发声与稳定支持 — Miles_Brundage · 2026-09-29