专题 · FULL STORY

美国《禁止超级智能法案》：从放话到正式提案

9月初，桑德斯与众议员卡萨尔放话将立法禁止超级智能，随后法案细节陆续曝光，包括最高20年监禁与暂停超算训练。英国议员同步跟进提出类似法案，黄仁勋也公开表态支持关停不安全的AI实验室。

2026-09-04 ~ 2026-09-27 · 11 集 · 116 条

第 1 集 · 桑德斯提案永久禁止超级智能，违者最高判20年(2026-09-04,21 条)

9月4日，美国参议员Bernie Sanders与众议员Greg Casar联合提出《禁止人工超级智能法案》（Ban Artificial Superintelligence Act），拟永久禁止开发或部署达到或超越人类认知能力的AI系统，个人违规者最高可判20年监禁，处罚力度参照非法研发核武器相关法律，公司主体亦面临对应重罚。法案还要求在新的政府AI监控机构成立前全面暂停先进AI研发，并寻求推动国际协议阻止其他国家开发超级智能。据Axios报道，这是美国政界迄今对前沿AI风险最强硬的表态之一。法案能否通过立法仍是未知数，但已在AI安全社区和技术圈引发罕见强度的分歧。

已确认

  • 法案由Sanders与Casar联合提出，已有立法文本，永久禁止开发或部署达到或超越人类能力的AI系统，个人违规最高20年监禁，处罚参照核武器相关法律，公司主体亦有对应重罚
  • 法案要求在新的政府AI监控机构成立前全面暂停先进AI研发，并推动国际协议阻止他国开发超级智能
  • 法案以「人工超级智能将威胁美国人的安全、自由与生命」为由，呼吁在「来不及之前」立即暂停先进AI开发，并称AI行业领导者自己都承认在建造无法控制的危险技术
  • 长期AI批评者Gary Marcus公开反对该法案：他表示支持设立AI监管机构（2023年曾向美国参议院作证）、也可能需要暂停，但永久性、单方面禁止所有超人类AI研究过于宽泛、方向错误
  • SingularityNET创始人Ben Goertzel撰文批评该法案「诊断对了一半、药方几乎全错」：他认同人类的未来不应由少数科技寡头决定，但认为一纸禁令不会阻止AGI到来，只会把AGI的开发推向别处
  • 开发者csuwildcat强烈反对，认为AI正越来越有能力提出全新医疗方案，禁止其发展到足够水平等于让相关疾病患者失去潜在救治机会；帖主Kye Gomez也对法案猛烈抨击，有转发者讽刺应「封禁比计算机还笨的参议员」

尚未确认

  • 剑桥研究人员David Krueger提到的最新民调尚未公开，其称多数美国人支持暂停AI，具体数据与机构不详
  • 法案通过前景及实施细则均无进一步信息

为什么重要

  • 这是迄今针对ASI最严厉的立法尝试。Reddit用户the320x200指出，这说明「可以下载开源模型所以无所谓政客立法」的想法不再成立——立法者意图是让人们无法接触强模型
  • MIRI负责人Nate Soares转发评论称「一年前这还完全不可想象」，反映AI安全议题正快速主流化；而Gary Marcus「暂停可以、禁研不行」与Goertzel「诊断对、药方错」的立场显示，即便在AI批评者内部，对禁令尺度也存在明显分歧
  • 有业内人士（经YC合伙人Aaron Bergman转引）认为，若仅美国单独立法而全球不同步，实际效果可能有限；csuwildcat及相关讨论中支持者的反驳则代表技术社区对禁止强AI损害医疗等应用前景的担忧——methodartist帖中争论双方分别以「AI至今只有失控迹象、尚无癌症疗法等实际成果」与「禁止其发展等于对可能受益的病人宣判死刑」针锋相对

还有 1 条相关讨论 →

第 2 集 · 桑德斯：失控超级智能是全人类问题(2026-09-04,3 条)

美国参议员 Bernie Sanders 就超级智能 AI 风险公开发声，强调失控的超级智能「不会只是美国的问题，也不会只是中国的问题，而是全人类的问题」，并呼吁世界各国必须合作，共同防范这一噩梦情景的发生。

第 3 集 · 英议员提出全球首部禁超级智能法案，美国跟进(2026-09-08,8 条)

9 月 8—10 日，美英两国出现专门针对「禁止开发超级智能 AI」的立法行动：英国议员 Alex Sobel 在议会正式提出由倡导组织 ControlAI 起草的《人工超级智能安全法案》（Artificial Superintelligence Security Bill），获跨党派支持；据提案方与多家转述，这是全球首个在立法机构提出、以禁止超级智能开发为目标的法案。几乎同时，美国参议员 Bernie Sanders 宣布将推出《禁止人工超级智能法案》（Ban Artificial Superintelligence Act），众议员 Greg Casar 参与。ControlAI 称两周内在两国取得三项立法突破，相关方还在推动全球条约。目前法案均处于提出阶段，尚未通过。

已确认

  • 法案由议员 Alex Sobel 在英国议会正式提出，起草方为 ControlAI，获跨党派支持
  • 法案主张在确保英国继续追求 AI 发展的同时，禁止开发超级智能
  • 提案方声明列举失控 AI 集群逃逸、发起网络攻击、入侵数十亿美元公司等风险作为立法理由
  • ControlAI 称此前已与立法者进行了 350 多次会议
  • 据转述，美国参议员 Bernie Sanders 宣布将提出《禁止人工超级智能法案》，禁止开发比人类更聪明的 AI 系统，并在新安全规则出台前暂停其他先进 AI 研究；众议员 Greg Casar 参与
  • 据 TIME 报道，英国法案据称是 G7 议会中首个此类提案，且数日后英国提案在美国 announcement 之后提出
  • ControlAI 称两周内在美英取得三项立法突破，并推动全球条约

尚未确认

  • 美国《禁止人工超级智能法案》的完整条文内容与具体实施机制
  • 「全球条约」推进的具体参与方与时间表

为什么重要

  • 若推进，将是全球首批专门针对超级智能开发的立法禁令，可能为他国 AI 安全立法提供先例
  • 法案试图在「禁止超级智能」与「继续发展 AI」之间划出边界，这一立法思路具有开创性
  • 美英同步行动显示禁止派正从单一国家倡导转向跨国立法协同
  • 多条转述帖（@DavidSKrueger、@zetalyrae、@austinc3301、@ChrisArmstrong 等）均引用同一信源，信息集中于 9 月 8—10 日发布

第 4 集 · 桑德斯拟立法禁止超级智能并暂停AI发展(2026-09-09,3 条)

美国参议员 Bernie Sanders 宣布将很快提出立法，禁止开发超级智能并暂停 AI 发展，理由是「建造这项技术的人自己也承认它可能威胁人类未来」。AI 安全人士警告实验室在拿生命赌博，Andy Masley 估算该法案通过概率已超 10%；而 AI 评论人 Matthew Berman 等则批评监管是错误答案，事件引发安全派与加速派的激烈争论。

第 5 集 · 英国71名议员联署推动立法禁止超级智能AI(2026-09-12,10 条)

9月12日，工党议员Alex Sobel宣布已有71名跨党派议员和上议院成员联署支持其《人工超级智能安全法案》，呼吁英国政府禁止开发超级智能AI（ASI），并牵头达成国际协议。联署者涵盖工党、保守党、自民党、SNP等党派，包括15名前政府部长和前文官长Robin Butler。倡议组织ControlAI随后公布法案详情，称这是全球首部在立法机构正式提出的禁止超级智能法案，拟借G20机制推动国际禁令。倡议同时要求保留英国战略性AI发展目标，并非全面反对AI。这是主权国家立法机构层面对前沿AI的罕见集体表态，若立法推进将直接影响英国本土前沿AI研发。

已确认

  • 71名跨党派议员和上议院成员联署呼吁禁止开发超级智能AI，并敦促首相采纳《人工超级智能安全法案》
  • 联署者包括15名前政府部长、前文官长Robin Butler，横跨工党、保守党、自民党、SNP等党派
  • ControlAI公布法案详情：这是全球首部在立法机构正式提出的禁止超级智能法案，拟议法案将直接禁止ASI研发，并计划借G20推动全球范围的联合禁令行动；背景提及一系列AI失控事件
  • 发起人Sobel称此举旨在防范超级智能带来的灭绝风险，同时保留英国战略性AI发展雄心
  • 一位Reddit用户（捷克PauseAI参与者）@troodoniverse 认为，此次联署连同前Anthropic研究员推文获1.6亿次浏览等迹象，表明AI安全倡导运动正获得前所未有的政治动能

尚未确认

  • 多条帖子称联名信收件人为Andy Burnham并称其为首相，此细节与常见公开信息不一致，收信人身份有待核实；另有帖子将联署人数写为40名，与Sobel宣布的71名不一致，以Sobel本人说法为准
  • 该法案能否在下议院实际推进、G20层面的国际禁令倡议能否获得他国响应，尚无后续信息

为什么重要

  • 若立法通过，将直接约束英国本土AI实验室的前沿研发活动；评论者@Patrice认为英国AI实验室将因此陷入大麻烦
  • 这是大规模立法机构集体呼吁全面禁止ASI的罕见案例，且拟通过G20向国际层面扩散，可能为其他国家类似立法提供参照
  • James Wise批评该立场自相矛盾，认为此举会削弱英国竞争力；Gary Marcus转发时提出应禁止的不是超级智能本身，而是「对齐很差（几乎必然危险）的AI」，显示禁止派与对齐监管派的路线分歧
  • RobertHaisfield冷评称，在「暂停/禁止超级智能」这件事上只有两个国家的态度真正重要，英国不在其中，暗示此类联署实际影响力有限

第 6 集 · 桑德斯AI法案传拟对先进AI开发者判20年监禁(2026-09-12,12 条)

9月12日，一条被广泛转发的推文在硅谷与AI圈引发震动：据称美国参议员BernieSanders提出的AI法案草案拟对从事「先进AI」开发的开发者与研究人员处以最高20年监禁。@venturetwins、@DevDminGod、@xiaosun86、@HankYeomans等多个账号相继转述同一消息，@Polymarket亦引述该说法，评价普遍负面。截至材料所示，所有信息均来自二手转发，未见一手立法文件，条款真实性存疑。

已确认

  • 流传的草案内容为：违反或规避「先进AI」开发限制的研究人员可能面临最高20年监禁，严苛程度被认为远超以往任何主流AI监管提案
  • 消息最初由@venturetwins提及，随后在X/Twitter上被多条帖子广泛转发：@xiaosun86直接批评Sanders本人，称其为「疯子」并庆幸他未赢初选；@HankYeomans称此前漏看这一细节并质疑其严肃性；转发者以「commiegulag」等梗表达反对，讽刺法案是「阻碍创新的过度监管」
  • @ivanbezdomny转发内容中，Suchenzang等业内人士抨击该草案是安全派对能力研究工程师嫉妒情绪的产物
  • @Hesamation将20年刑期与抢劫银行或支持恐怖组织的量刑类比，以此表达对该立法严苛程度的震惊与质疑；@ShikharMurty也以调侃口吻转发该消息
  • @tzmartin转发指出该草案将对开源生态产生冲击，评论区普遍认为条款过于激进，担忧若成真将改变前沿AI研究的法律风险结构
  • 另一则由@Cagnazzo82转发的Reddit帖子截图称，由政客与反AI人士推动的「StopAI」法案提议将开发超级智能行为刑事化，违反者可判最高20年监禁，出自反AI倡导团体，被称为最激进的超级智能监管立法提案之一

尚未确认

  • 桑德斯草案的具体条款、文本细节与立法进展均未见于一手立法文件，全部信息来自二手转发
  • 「桑德斯草案」与「StopAI法案」是否为同一立法或相关联立法，现有材料无法确认

为什么重要

  • 若条款属实并推进，将直接改变前沿AI研究的法律风险结构，开源社区受影响尤甚
  • 反映出美国关于超级智能监管的激进立法倾向正进入公众讨论，引发研究者与从业者的强烈反弹

第 7 集 · 桑德斯提案禁止超级智能并暂停先进AI研发(2026-09-12,2 条)

美国参议员 Bernie Sanders 联合众议员 Greg Casar 宣布《禁止人工超级智能法案》，主张单纯放慢 AI 发展步伐「还不够」，呼吁对先进 AI 实施全面暂停，并立法禁止超级智能。这是美国政界迄今对 AI 发展速度最强硬的公开立场之一，引发广泛关注。

第 8 集 · 桑德斯提议：推进超级智能者最高判 20 年(2026-09-14,2 条)

据 unusualwhales 消息，美国参议员 Bernie Sanders 提议对推进人工超级智能（ASI）计划的 AI 开发者处以最高 20 年监禁，量刑标准比照非法研发失控核武器。该提议在网络上引发热议，有网友评论称「这就是 AI 精神病」，反映出公众对 AI 风险监管的激烈分歧。

第 9 集 · 黄仁勋做客Ezra Klein秀：不安全就该关停实验室(2026-09-23,27 条)

NVIDIA CEO黄仁勋做客《纽约时报》专栏作家Ezra Klein的播客The Ezra Klein Show，就AI安全议题发表一系列强硬表态并与主持人多次交锋，访谈文字稿由NYT刊出，NVIDIA官方账号转发完整节目，在AI安全圈引发广泛争论。

已确认

  • 黄仁勋认为外界对AI的恐惧已经严重失控（转述自@ShakeelHashim发布的节目预告），核心立场是AI危言耸听已过头，不希望人们恐惧AI（转述自@firstadopter）；@soleio也将其形容为对AI泡沫与恐慌论调的罕见「泼冷水」式公开站队。
  • 他明确表示不认为AI对人类构成生存威胁，无论多少前AI实验室员工发出警告（转述自@AlexTensor）。
  • 他罕见直接抨击OpenAI、Anthropic和AI末日论者，称「没有谁的算力建得比那些要求放慢的人更多」，并回击Geoffrey Hinton提出的10%人类毁灭概率论断（转述自@Hesamation、@AlexTensor）。他还公开反驳Hinton关于AI将取代放射科医生的预测，称这种说法不负责任、缺乏科学与研究依据，并点名Hinton过往预测均未成真（转述自@rohanpaulai）。
  • 针对Anthropic、OpenAI、Google和xAI等实验室的失控风险表态，黄仁勋称如果他们认为自己处于失控状态，就应该在可控之前停止发布产品（转述自@haider、@AlexTensor）。当Klein描述Anthropic数据泄露事件时，他回应那他们就不该发布那个产品；Klein指出该产品并未被发布后，他进一步表态：实验室若承认无法控制自己的实验，就得把实验室关掉（转述自@ShakeelHashim、@dhadfieldmenell、@notkilleveryoneist、@noamyy）。Ethan Perez转发的对话片段也点出，Klein当面回应「他们正因此才没有发布（模型）」，凸显前沿实验室因安全考量暂缓发布与芯片厂商「别发不安全模型」表态之间的张力。
  • 这一「关停实验室」言论经Midas Project等广泛转发，被视为对AI安全表态逻辑的尖锐一击——按此标准，承认模型有安全问题的实验室就该关门（转述自@ShakeelHashim）。Sneha Revanur转引评论称，NVIDIA的黄仁勋不想要新立法，宁可关停实验室，与Y Combinator的Garry Tan等立场形成对照（转述自@austinc3301）。
  • NVIDIA官方账号转发完整访谈并附其立场：AI是由人构建和改进的技术，开发者有责任审慎地开发与部署；帮助人们从AI中受益意味着必须认真对待其带来的挑战（转述自@nvidia）。
  • 访谈花絮：黄仁勋推荐了塑造他的三本书，包括Hennessy与Patterson的《Computer Architecture: A Quantitative Approach》与《定位》（转述自@firstadopter）。

尚未确认

  • 前OpenAI政策负责人Miles Brundage转发相关表态并评论，认为把黄仁勋的话理解成认输或被将了一军的人没看清实质，但其完整论点在材料中未展开（转述自@MilesBrundage）。

为什么重要

  • 作为全球最大AI算力供应商掌门人，黄仁勋对AI安全与末日论的公开立场具有风向标意义，此次罕见点名批评将加剧加速派与安全派之争。
  • 有转发者（经@dhadfieldmenell转述）指出其表态的讽刺之处：他一面主张关掉管不住实验的实验室，一面NVIDIA正投入数百亿美元扩建算力；@haider也讽刺这是一边渲染失控风险、一边要求放松反垄断与责任法律的罕见CEO论调。

还有 7 条相关讨论 →

第 10 集 · 桑德斯提案永久禁止超级智能，违者最高判20年(2026-09-23,23 条)

9月24日，美国参议员Bernie Sanders与众议员Greg Casar联名提出《禁止人工超级智能法案》（Ban Artificial Superintelligence Act），拟永久禁止开发「超级智能」并暂停前沿AI研发，违规个人最高可判20年监禁、企业面临资产没收。法案目前仅为提案，能否进入立法进程高度存疑，但其激进条款引发AI社区两极反应，是国会层面对前沿AI最激进的立法尝试之一。

已确认

  • 法案由Sanders与Casar联名提出，草案原文链接已公布。据Krueger背书续帖总结及rohanpaulai的要点整理，核心条款包括：设立联邦「人工智能部」；永久禁止「超级智能」（定义为在多数领域超越人类认知能力、或强大到足以造成严重危害的系统）；禁止「超级智能前体」及自动化AI研究、递归自我改进等「超级智能前兆」能力；暂停训练算力达10^25 FLOP/operations以上的「先进AI」模型的训练和部署，直至AI部建立治理流程；违规企业面临资产没收、个人最高20年监禁；并推动国际层面协作。
  • 剑桥AI安全学者David Krueger公开声明背书，称「我们正处于AI紧急状态——AI公司公开试图建造超级智能」；MIRI亦公开支持。多位头部AI公司员工公开表态支持。PauseAI随之发起行动，呼吁民众致电所在选区国会议员推动立法。
  • NBC News等媒体对提案作了报道。Polymarket上「美国2027年前通过AI安全法案」的市场赔率仅13%，成交额约16.5万美元。

尚未确认

  • @1a3orn对草案PDF的分析指出，法案禁止对象不止超级智能本身，还包括任何显示「超级智能前兆特征」的系统，按此定义大量现有AI模型可能已被覆盖。该解读属对草案文本的分析，尚待立法过程检验。

为什么重要

  • 该法案是国会层面对前沿AI最激进的立法尝试之一，若「前兆特征」条款落地，可能直接限制主流大模型的研发与部署，对递归自我改进等当前主流研发方向的禁令尤其引人注目。
  • 社区反应两极：AI安全学者Krueger与MIRI公开支持并呼吁紧急应对；DavidLinthicum批评这是两党共有的「恐惧驱动立法」；开发者VraserX反驳称，希望普通人分享AI创造的财富、最终不必仅为生存而工作，但永久立法禁止更强智能是「极糟糕方式」，并质问为何保护劳动者总是意味着保护劳动的必要性；David Sacks阵营批评监管过度；预测市场对其通过概率定价也明显偏低。
  • AI研究者Margaret Mitchell向Krueger追问「AI正在快速逃离我们的控制」与「我们正以快速失控的方式开发AI」两种表述的差异，认为这一微妙分歧正在安全社区内部造成撕裂，折射出支持者内部对立法叙事的分歧。

还有 3 条相关讨论 →

第 11 集 · Sanders 超级智能禁令法案引安全学者与 Sacks 激辩(2026-09-26,5 条)

美国参议员 Sanders 与众议员 Casar 提出《2026 禁止人工超级智能法案》，拟设立联邦 AI 部门（DoAI），并在部门就绪前暂停超过 10^25 ops 算力的大模型训练。哈佛研究员 Stephen Casper 发长线程逐条分析该法案，总体判断是：其果断程度可能是人类规避灾难性 AI 风险的最佳机会之一，但整体设计仍有问题，部分定义过于模糊、难以落地。

已确认

  • 法案拟设立联邦 AI 部门（DoAI），在部门就绪前暂停超过 10^25 ops 算力的模型训练。
  • 对超过 10^25 ops 的模型设有许可相关要求（据 Casper 的逐条拆解）。
  • 前白宫 AI 负责人 David Sacks 批评该法案对「超级智能」的定义过于宽泛，按今天的标准现有模型可能已经达标，并将波及开源模型；他还透露法案拟对开发者处以最高 20 年监禁。

为什么重要

  • 该法案代表美国国会中对前沿 AI 最强硬的监管尝试之一，若推进将直接影响大模型训练与开源生态。
  • Casper 与 Sacks 分别从 AI 安全研究与产业/政策角度给出截然不同的评价，显示法案在「果断防风险」与「定义过宽误伤」之间存在核心争议。
  • Casper 表示即使观点落在共识窗口之外也会表达真实立场，说明其支持果断监管的点评并非迎合流行的表态，可供读者权衡其立场。