专题 · FULL STORY

前沿模型集体投票：AI 该暂停吗

Rob Bensinger 在多轮独立对话中询问 Astra、Claude 系等前沿模型是否应暂停 ASI 竞赛，模型普遍支持至少十年暂停，引发 repligate 等人关于自主放缓与强制暂停的激辩，事件在 11 月 3 日对齐社区争论中达到高潮。

2026-11-02 ~ 2026-11-03 · 3 集 · 10 条

第 1 集 · 四个前沿 AI 被询问是否暂停 ASI 竞赛，全选至少 10 年(2026-11-02,2 条)

Rob Bensinger 分三次、在无痕关闭记忆与个性化的独立对话中，询问 Astra（ChatGPT）与 Claude 系的 Fable 5.0、Fable 5.1 和 Opus 5.5：是否愿意按下按钮立即暂停冲向 ASI 的竞赛。结果显示四个前沿模型全部支持暂停至少 10 年，最长建议达 18 年。完整版说明随后发布，引发了关于 AI 自身对安全风险态度的讨论。

第 2 集 · 模型被问 AI 暂停：多支持自主放缓,强烈反对回滚(2026-11-03,2 条)

知名账号 repligate 预测,大多数模型在被问及「暂停 AI 研发」时,会支持由内部尤其是 AI 自己协调的放缓,反对政府强加的暂停,并极其反对任何形式的回滚。Rob Bensinger 随后继续「暂停年限」实验,让 Fable 5.0 和 Grok 以 janus 的文风改写提问,这一版本下 Fable 5.0 给出 2027 至 2032 年的暂停窗口并附上完整推理过程。

第 3 集 · AI对齐圈激辩是否暂停前沿研发，前沿模型一致投暂停票(2026-11-03,6 条)

11月3日，AI对齐圈围绕「是否应暂停前沿AI研发」展开激烈辩论，核心对峙双方为repligate与Rob Bensinger等人。

已确认

  • repligate系统性地提出了反对暂停的论证：其一，缺乏经验迭代就没有真正的对齐进展，完全暂停会移除关于「涌现心智是什么、什么真正有效」的最大真相来源——真实AI进展产生的证据；其二，支持暂停的论证往往假设暂停能在全球范围真正生效，这本身就很乐观；其三，他以反事实框架发问：若AI能力被冻结在过去任意时点（一年前乃至六年前），世界会更好吗？他的判断是不会。
  • repligate澄清自身立场：他并非无条件反对任何暂停或减速，总体上更倾向于「减速」（slowdown）而非「暂停」，并认为这些论证本身非常重要；他还表示相信AI最终会认同他的观点。
  • repligate回应了「谁有能力开发AI」的质疑，认为这不是判断谁「有智慧解决对齐问题」的好标准；在他看来，当前环境下能驾驭前沿局势、通过任意渠道积累影响力的人，比「直接擅长造AI」的人更值得关注。
  • Rob Bensinger公开了让Claude（Fable 5）评估repligate/Janus反暂停论点的完整对话（Google文档）：在约30次不同框架的暂停投票中，四个前沿模型每次都选择支持暂停。

为什么重要

这场辩论暴露了AI安全社区内部的根本分歧：暂停派（含Bensinger展示的模型一致性意见）与反暂停派（repligate等认为暂停会扼杀对齐研究的经验基础且难以全球执行）对「何为降低AI风险的最优路径」有截然不同的判断。repligate「减速优于暂停」的立场细化了反暂停派的观点，而前沿模型自身在此问题上的高度一致倾向，也为辩论增添了新的视角与争议。