Dan Robinson:别把「安全 AI 曼哈顿计划」全押在对齐上,对齐了也危险

michael_nielsen · x · 2026-11-19

Dan Robinson 在转发 Michael Nielsen 的 ASI 风险文章时补充观点:对齐是一个极其困难且诱人的研究问题,因此太多「安全 AI 曼哈顿计划」式的构想把重心全放在对齐上;但即使 ASI 完全对齐,它依然极度危险且具有颠覆性。这一观点呼应 Nielsen 的核心论点——ASI 的根本风险在于其赋予的原始力量,而非仅仅失控问题。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →