AI 安全学者争论：政府造 ASI 也无法解决对齐问题

davidmanheim · x · 2026-09-24

AI 安全研究者 David Manheim 在讨论可验证合规后才停训的主张时指出：自己多年来一直主张「一旦合规可验证就应停下」，并强调政府主导造 ASI 并不能神奇地解决对齐问题。他补充说明该停训/限速思路并非全新，此前有 SPAR、RAND 等机构人员提出过类似方案。被引用的讨论涉及是否该在互连带宽等基础设施层面限制先进模型训练：只限制少数人会导致权力集中或国家行为者滥用，全部禁止则带来技术停滞且长期难以执行。