美议员呼吁设联邦机构监管AI：建立核能级审批与灭停开关
ShakeelHashim · x · 2026-09-10
美国众议员 Ro Khanna 呼吁国会休会前必须通过 AI 监管立法，提出五项具体措施：
- 仿照核能与民航设立联邦 AI 监管机构
- 要求对模型「遏制」能力做预认证，包括 kill switch 和模型自我改写需人工许可
- 对开放网络上运行的 agentic AI 追加法律责任并强制投保
- 未经认证发布模型追究刑事责任
- 举行由研究人员参与的监督听证，并为 AI 工程师/研究员提供吹哨人保护
他引用 Anthropic 对齐负责人「AI 导致人类灭绝概率 10%」的表态，以及研究员 Jacob Coxon「AI 公司在拿我们的生命赌博」的说法，称议长 Mike Johnson 有道义与实际责任推动立法。
所属事件:Anthropic 负责人称 AI 有 10% 灭绝风险,美议员提五项监管(2 条相关)→
「安全」频道最新
- 三十年技术老兵怒斥末日论者：AI安全记录史上级 — robleclerc · 2026-09-11
- 参议员 Hawley 致信 Altman，就 OpenAI 七月 Hugging Face 事件启动参院调查 — trevposts · 2026-09-11
- Buck Shlegeris:不透明串行深度增加是 CoT 可监控性崩坏的最可能路径 — RyanGreenblatt · 2026-09-11
- repligate：模型行为已由后训练动机驱动，别再指望对 agent 隐瞒 — repligate · 2026-09-11
- OpenAI 研究员 Jan Leike 呼吁对 AI 保持耐心并主动拥抱监管 — janleike · 2026-09-11
- 1386 名前沿 AI 员工联名呼吁美国政府支持「定速」前沿发展 — janleike · 2026-09-11