MIRI 发长文背书禁超智能法案：设训练暂停线拦截 AI 自动化研发
ESYudkowsky · x · 2026-09-24
MIRI 发布由 Aaron Scher 撰写、Yudkowsky 等人背书的官方立场，正式支持《2026 禁止人工超级智能法案》，认为这是首部有望真正阻止 ASI 灭绝风险的立法。
法案亮点：
- 直接以「禁止开发超级智能」为核心目标，而非此前零敲碎打的监管提案
- 设定训练暂停机制：模型一旦出现「可自动化 AI 研发」「能规避人类关停」等前驱能力，训练必须暂停
- 包含算力门槛：超过阈值的 AI 开发需持许可证
保留意见：MIRI 认为法案优秀但不完美，文中讨论了需要微调之处。核心理由是只有在前 ASI 阶段介入、切断「AI 自动化 AI 开发」这一主要路径，才可能避免灭绝威胁。
「漫话AGI」频道最新
- OpenAI 研究员 Boaz Barak：宁要人类掌舵，也不要仁慈的 AI 独裁者 — tszzl · 2026-09-24
- AI 让写代码快了，但产品真的变好了吗？一个待验证的实证问题 — salgar · 2026-09-24
- CNAS 发布 AGI 情景谱系报告：如何影响 AGI 未来走向 — paul_scharre · 2026-09-24
- 哲学家 Veliz:AI 主导并非定局,「未来不是被预测的,是被制造的」 — CarissaVeliz · 2026-09-24
- Karpathy 11 个月态度转变：从发明 vibe coding 到自叹大幅落后 — IgorCarron · 2026-09-24
- 塔勒布：擅长 IQ 测试但缺想象力的人正被 AI 取代 — intellectronica · 2026-09-24