Claude 表达的不确定性能否作证据？研究者批评论文被「重复计算」

rgblong · x · 2026-09-19

研究者 rgblong 参与一场关于模型安全表态的辩论：他此前认为，仅从对齐与人类安全角度看，Microsoft 在模型自我呈现上的立场「适得其反且危险」。

在这条后续推文中，他部分认同 Mustafa Suleyman 的观点：不应把 Claude 表达出的不确定性当作强有力的独立证据，因为模型的 constitution（宪法）本身就植入了这种不确定性。他同时指出 Will MacAskill 与 Lucius Caviola 在一篇评论文章中把这一论据「重复计算」了——即在缺乏独立性的情况下过度加权了模型自述的证据价值。