哈佛学者逐条点评超智能禁令法案：10^25 ops 须许可、设 DoAI
StephenLCasper · x · 2026-09-26
Harvard 研究者 Stephen Casper 发长线程点评一项由参议员 Sanders 等推动的超智能（ASI）监管法案草案，认为其果断程度可能是人类规避灾难性风险的最佳机会，但整体设计仍有问题。
法案要点：
- 设立联邦 AI 部（DoAI），暂停 >10^25 ops 模型开发直至其运转
- DoAI 拥有审计 AI 公司/模型、下线并隔离危险模型的广泛权力
- 高管违规面临刑事处罚，含吹哨人保护
- 对超智能下禁令（定义为在多数认知任务超越人类、使人类失权或可推翻美国政府）
- 确立美国追求全球协调禁超智能的国家政策
他的批评：
- 定义过于模糊，许可门槛过低
- 未涉及 AI 硬件供应链
- 试图用一刀切的禁令和执法遏制行业
- 未考虑保留未来的能动性
他认为值得保留之处：
- 对灾难性风险与人类失权的严肃程度超过现有热门 AI 法案草案
- 设立 DoAI 的思路
他建议若参与修法，应去掉对「禁 ASI」的关注，转向压缩驱动 AI 行业（泡沫？）的投资、利润与算力，并表示愿与 Sanders、Casar 合作或邀请其到哈佛交流。
「安全」频道最新
- 爆料称中国 AI 数月内将有惊人进展,美国开源窗口仅剩约 7 个月 — TinfoilTricorn · 2026-09-26
- 业内人士讽 AI 监管听证会：无监管本身也是被监管俘获的一种形式 — Miles_Brundage · 2026-09-26
- AI 安全监管倡议者内部现分歧：外部评估或成意识形态控制 — DavidSacks · 2026-09-26
- AI 圈热议:伪造的「AI 危机」比自主 AI 威胁更大 — robleclerc · 2026-09-26
- 开源 hallpass:给 MCP 服务器写操作加实时权限校验 — Adorable-Algae6903 · 2026-09-26
- 付费老用户遇死锁：OpenAI 确认无法换绑失效邮箱，登录全靠一部 iPhone — Designer-Sir-1492 · 2026-09-26