Geoffrey Irving 反驳 Scott Alexander：单边暂停的好版本依然成立

geoffreyirving · x · 2026-11-03

Google DeepMind 研究员 Geoffrey Irving 在 LessWrong 发文，回应 Scott Alexander 的《Against SURA》，认为其攻击的是单边暂停（unilateral pauses）的稻草人版本——Scott 本人在文章深处也承认了这一点。

Irving 提出一个「好版本的单边暂停」：前沿实验室（如 OpenAI 或 Anthropic）自行定义暂停范围（停止全部前沿训练，或同时停止低规模能力研究），按公司内部团队结构制定暂停条款，比多方协调暂停更易执行，并可逐步与其他公司、国家的行动兼容；人员不是直接解雇，而是转向对齐研究与产品工作。此外，他反驳了 Scott 关于博弈论的论断：让公司接受「条件性暂停」（若他人不跟随则恢复训练）并不比说服公司暂停更容易，因为前者要求公司基于模糊的博弈论证据承诺采取行动，而公司通常不会依据这类证据行事。