Geoffrey Irving 撰文反驳 Scott Alexander:单边暂停被稻草人化
geoffreyirving · x · 2026-11-03
DeepMind 安全研究员 Geoffrey Irving 在 LessWrong 发文《Against strawmanning unilateral pauses》,批评 Scott Alexander 的「Against SURA」一文:要点包括——
- Alexander 反驳的是稻草人版本:他自己也在文末承认;Irving 认为其结论对更强的「有条件/有限单边暂停」方案不成立——若暂停未促使其他公司跟随则恢复训练,且人员转向对齐与产品工作而非被裁。
- 博弈论论证有误:让公司同意有条件暂停并不比说服其直接暂停更容易,前者要求公司基于模糊的、博弈论式的证据做出承诺,而公司通常不会据此行动。
- 公司可按自身组织结构定义暂停条款,再逐步与其他主体的行动兼容。
这是 AI 安全圈关于单边暂停(SURA)辩论的实质性交锋。
「漫话AGI」频道最新
- 六年了,rationalists 真的在大规模重塑世界 — AndyMasley · 2026-11-03
- AI 时代真正的货币是视角：别被工具淹没，留出思考空间 — LadyAshBorg · 2026-11-03
- 数学家称已见「弱 AGI」：模型正成为数学研究日常工具 — Scobleizer · 2026-11-03
- 扎克伯格谈 Muse 浏览器代理,网站或转向 API 供代理抓取 — GramZanber · 2026-11-03
- 硅谷投资人：AI 时代「会提问」比「会回答」更值钱 — signulll · 2026-11-03
- AI Agent 或让功能臃肿从劣势变优势：用户不再是操作者 — SharpCarob6551 · 2026-11-03