MIRI 发长文背书禁超智能法案：设训练暂停线拦截 AI 自动化研发
ESYudkowsky · x · 2026-09-24
MIRI 发布由 Aaron Scher 撰写、Yudkowsky 等人背书的官方立场，正式支持《2026 禁止人工超级智能法案》，认为这是首部有望真正阻止 ASI 灭绝风险的立法。
法案亮点：
- 直接以「禁止开发超级智能」为核心目标，而非此前零敲碎打的监管提案
- 设定训练暂停机制：模型一旦出现「可自动化 AI 研发」「能规避人类关停」等前驱能力，训练必须暂停
- 包含算力门槛：超过阈值的 AI 开发需持许可证
保留意见：MIRI 认为法案优秀但不完美，文中讨论了需要微调之处。核心理由是只有在前 ASI 阶段介入、切断「AI 自动化 AI 开发」这一主要路径，才可能避免灭绝威胁。
「漫话AGI」频道最新
- KOL 吐槽:评论区多 believe AI 致贫而非创造史上最大财富 — Dr_Singularity · 2026-11-11
- OpenAI GDPval:AI 胜人类专家比例从 12.4% 升至 83%,但团队为何仍在 — danshipper · 2026-11-11
- OpenAI 联创 Jack Clark:2028 年底前递归自我改进概率 60% — JacquesThibs · 2026-11-11
- 研究：近半数 STEM 博士论文用 AI 写，仅 4.7% 主动披露 — paulnovosad · 2026-11-11
- 学者主张教学生用 AI 拿反馈：反馈让你超强，代写让你脑死 — paulnovosad · 2026-11-11
- 学者谈 AGI 后人类立场：在乎人类之后的生命进程并非幼稚 — danfaggella · 2026-11-11