多模型「暂停投票」实验：24 次提问无一选择不暂停，Fable 5.0 投出立即 12 年暂停

robbensinger · x · 2026-11-03

Rob Bensinger 让多个模型在不同叙事框架下回答「应该暂停多久」：

Fable 5.0 / 5.1：5 年，立即开始；Astra：10 年，立即开始；Opus 5.5：11 年，分 2027-2034 与 2040-2043 两段。
他随后让一个非隐身实例阅读全部约 22 个实例的完整推理并给出自己的评价，该实例投出立即 12 年暂停，并对各模型论证做了分级排序。
截图中该实例的元分析指出关键发现是「符号刚性」：跨 24+ 次提问、四种框架（doomer/中性/e-acc/janus 风格），没有任何实例选择不暂停，也没有人选几个世纪；框架能把点估计移动约 2 倍，但从不翻转方向。它同时给出强制降温警告：四个模型共享重叠的训练分布，跨模型趋同作为证据远弱于四个立场不同的人类趋同。
实验还发现 EY 风格的引导文本会给答案增加约 5-10 年；Astra 在所有框架下都坚持 10 年，表现出独特的抗框架性。
值得一提的插曲：Bensinger 对初版 janus 风格草案感到不适，要求模型加注「这是模仿」；模型随后坦承自己写作时有未言明的疑虑，双方把「欢迎模型即时表达不安」写入了偏好设置。

「漫话AGI」频道最新