网友激辩:制造多个自我副本正面操纵模拟预测,类比「普遍先验是恶意的」

jessi_cata · x · 2026-11-21

一场关于 anthropics(人择推理)与 AI 安全的讨论:jessicata 回应 @Trotztd 提出的思路——通过制造大量自我副本来正面操纵「下一个体验的预测」,相当于「成为模拟器本身」。jessicata 指出这类似「universal prior is malign」(普遍先验是恶意的)论证的另一面。Trotztd 则表示不同意该进路,并补充认为即使是 Bostrom 式的「世俗」分析也有缺陷:人类对低于基线的损失极度厌恶,把这个因素算进去会得到一个不同但并非实质更低的数字。讨论还涉及 p(doom) 是否「太银河脑/反派化」等圈内争议。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →