Anthropic 对齐负责人称 AI 有 10% 灭绝人类风险，议员提五项监管方案
ShakeelHashim · x · 2026-09-10
美国众议员 Ro Khanna 转述 Anthropic 对齐负责人的判断：AI 导致人类灭绝的概率约为 10%，问题不止在滥用，更在于缺乏控制，而美国政府「一直在沉睡」。
他提出五项监管措施：
- 建立类似核电与航空的联邦监管机构
- 要求模型发布前做遏制性预认证，包括 kill switch 与改写需人类许可
- 对开放网络上的 agentic AI 追加责任制度并强制投保
- 对未经认证发布模型者追究刑事责任
- 举行监督听证并保护 AI 研究者/工程师的吹哨人权利
他还呼吁美中尽快就安全、遏制与责任标准达成协议，避免毁灭性竞赛。引用评论指出：构建 AI 的人真心相信本十年末可能致命，私下表达的恐惧比公开表态更直白。
所属事件:前Anthropic研究员辞职警告AI风险，引发跨媒体与政界监管浪潮(32 条相关)→
「安全」频道最新
- AI 把漏洞补丁窗口压到几小时：先断网备份再谈安全 — aakashgupta · 2026-10-26
- NYT 专家圆桌:AI 公司该被怎样监管,五位专家分歧激烈 — ShakeelHashim · 2026-10-26
- DeepMind 试点全球首个双盲 AI 评测，密码学隔离防基准污染 — scychan_brains · 2026-10-26
- 用 LLM 估算 PHP 漏洞损失：量级粗估 10 亿至 40 亿美元 — S_OhEigeartaigh · 2026-10-26
- 多州暂停新建数据中心，72% 美国人反对建在家门口 — YvesMulkers · 2026-10-26
- LEMON 监控器:从注意力图零样本识别未见过的 LLM 幻觉与越狱 — yoavartzi · 2026-10-26