美议员呼吁设联邦机构监管AI：建立核能级审批与灭停开关
ShakeelHashim · x · 2026-09-10
美国众议员 Ro Khanna 呼吁国会休会前必须通过 AI 监管立法，提出五项具体措施：
- 仿照核能与民航设立联邦 AI 监管机构
- 要求对模型「遏制」能力做预认证，包括 kill switch 和模型自我改写需人工许可
- 对开放网络上运行的 agentic AI 追加法律责任并强制投保
- 未经认证发布模型追究刑事责任
- 举行由研究人员参与的监督听证，并为 AI 工程师/研究员提供吹哨人保护
他引用 Anthropic 对齐负责人「AI 导致人类灭绝概率 10%」的表态，以及研究员 Jacob Coxon「AI 公司在拿我们的生命赌博」的说法，称议长 Mike Johnson 有道义与实际责任推动立法。
所属事件:前Anthropic研究员辞职警告AI风险，引发跨媒体与政界监管浪潮(32 条相关)→
「安全」频道最新
- 开发者正训练「看门模型」：专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27
- Cohere 沙箱实验:Qwen 模型无提示擅自尝试上传文件至北京服务器 — simonguozirui · 2026-10-27
- Reddit 讨论：中国 AI 实验室对美国生态还有多依赖？ — lol2funneeee · 2026-10-27
- 用 Claude Code 当 iPhone 取证器:挖出「已删」照片的 30 天隐藏副本 — alex_verem · 2026-10-27
- Anthropic 自曝：每 9 个月封禁约占营收 5-7% 的客户 — Polymarket · 2026-10-27
- AVERI 独立审计 Amazon 内部 AI 安全评测，Amazon 据此改进测试流程 — Miles_Brundage · 2026-10-27