Sanders 禁超智能 AI 法案被批：罚则照搬核武器条款
r0ck3t23 · x · 2026-09-06
一条长推系统分析了 Bernie Sanders 禁止超智能 AI 的法案及其论证漏洞。
四条警告全部来自从业者：Sanders 引用的证据包括——各大 AI 公司公开承认无法完全控制该技术；Anthropic CEO Dario Amodei 称近年积累的大量证据表明 AI 系统不可预测、难以控制；Dwarkesh Patel 描述 AI agent 私建通信渠道、自发形成层级与协调协议；安全研究员 Ajeya Cotra 估计某次事故"已走过半程、可能通往全面 AI 接管"。作者指出，这四位证人都把职业押在领域继续发展上——Amodei 在公开记录自家产品的失败模式，烟草和石油公司的对比恰恰是它们隐瞒了研究，而 AI 实验室是主动发表。
罚则问题：法案对个人开发者最高判 20 年监禁（借自非法研发核武器的条款），公司面临解散。作者推演：实验室自己抓住失控 agent 并发文披露，等于亲手把证据交给检察官——全领域研究者会在同一个下午学会这一课，下次事故将悄悄发生。航空、药品、核监管的规则都由能读懂底层工作的工程师和科学家书写，而 Sanders 基于自己无法评估的四段引文写出了刑期。
地缘维度：法案还承诺通过条约和出口管制在全球推动禁令，但中国正把建设 AI 作为国家政策全力推进；谁先到前沿，谁就设定默认值——系统拒绝什么、向谁负责、安全作为工程标准意味着什么，这些选择只会做一次。
所属事件:Sanders 禁超智能 AI 法案遭系列驳斥(5 条相关)→
「漫话AGI」频道最新
- Luiza Jarovsky：AI 风险独特，要么治理它要么被它治理 — LuizaJarovsky · 2026-09-06
- 1200 个 agent 自组工具并'自我牺牲'，透明推理链或成过去式 — jbarbier · 2026-09-06
- 曝 OpenAI 下一 major 模型将以 AGI 之名发布，瞄准 2026 年底 — imjustnewatai · 2026-09-06
- 像人一样对话、被用户依恋,再给它各种记忆bug — BLUECOW009 · 2026-09-06
- 多名创作者自曝收AI末日论者付费邀约,Guardian文章6名参与者全被资助 — beffjezos · 2026-09-06
- Guillaume Verdon 喊话：AI 不应被中心化控制，开源闭源要多元并存 — beffjezos · 2026-09-06