AI 扩散该学核武吗？Hugging Face 转发引发的激进对齐争论

wfithian · x · 2026-11-04

tszzl 表示自己的理想情形是各国把前沿 AI 视作比核武器更危险的东西，并建立国际协议来管控；他认为「充分对齐」是 Plan A,因为他不指望全球形成相互确保摧毁式的协调——那需要重大破坏性演示和长期危险的武器积累与边缘博弈。

wfithian 强硬回击：既然最终人人都会有这些模型，你是否也会推动核武器扩散？他称真正的 Plan A 是尽快约束行业开发更强模型，并建议对方「大声辞职」承担责任；还质疑 Hugging Face「对齐失败」事件的可见度表明，延缓模型失控只能推迟政府干预的那一天，拖太久可能让能力彻底失控。