Boaz Barak 等辩论 Scott Alexander 的 SURA 安全长文

austinc3301 · x · 2026-11-02

围绕 Scott Alexander 的 SURA 文章展开讨论。Boaz Barak 认同其中部分观点，但指出「单方面停止」与「全速冲刺到 RSI 再在超智能临界点解决对齐」之间存在巨大光谱，且文章把对齐超智能的发布当作历史终点，对之后发生什么交代不清。Nathan Calvin 补充说，文章把「公司应完全单边停止 AI 开发」与「公司应更多单边克制以促成集体更优均衡」混为一谈，担心反对任何高成本单边约束的人会借此文背书；他认为安全动机的公司还应投入更多资源支持能真正约束自身与竞争对手的政策。