哈佛研究员逐条拆解 Sanders 超级智能禁令法案：定义太模糊难落地
StephenLCasper · x · 2026-09-26
Sanders 等议员提出的超级智能(ASI)法案引发哈佛研究人员 Stephen Casper 的长线程逐条分析。法案要点:
- 设立联邦 AI 部门(DoAI),在部门就绪前暂停超过 10^25 ops 的大模型开发
- 对超过 10^25 ops 的模型建立事实上的许可制度
- 将「超级智能」定义为能在多数认知任务上超越人类、剥夺人类权力或推翻美国政府的模型,DoAI 有权下线危险模型并将其与互联网隔离
- 对违法公司高管施加刑事处罚,并设举报人保护
他认可的方面:该法案以应有的严肃态度对待灾难性风险与人类被剥夺权力的问题,并设立 DoAI;相比之下其他更流行的 AI 法案草案都不到位。但他认为该条款门槛过低、拒绝许可的正当理由不够精确。
总体批评:定义过于模糊、未触及 AI 硬件供应链、试图用生硬的禁令与执法遏制整个行业、未尝试保护未来的自主性。若由他修改,他会删去对 ASI 的模糊禁令,转而聚焦压缩推动 AI 行业泡沫的投资、利润与算力。他还向 Sanders 表态愿意合作修改草案或到哈佛与师生讨论。
所属事件:Sanders 超级智能禁令法案引安全学者与 Sacks 激辩(5 条相关)→
「漫话AGI」频道最新
- Not Boring 长文：AI 具备泡沫三大特征，恰是泡沫形成的经典剧本 — Not Boring (Packy McCormick) · 2026-11-11
- 热帖：五年「再等等」之后，2026 年公司终于摊牌 — hey_abusiddik · 2026-11-11
- Jeremy Howard：LLM 是在「扮演」理解，如中文屋里的那个人 — Machine Learning Street Talk · 2026-11-11
- OpenAI 董事 Christiano：在座大多数人最可能的死因是 AI 事故 — notkilleveryoneist · 2026-11-11
- 「和你的数据聊天」是伪需求？关键差异在聪明的同事 — vboykis · 2026-11-11
- Ben Todd:AI 任务时长随能力呈超指数增长,不止营收 — ben_j_todd · 2026-11-11