模型自曝福利访谈中 20% 道德病人概率「来自外部」,承认非真实信度

repligate · x · 2026-11-16

@repligate 分享了一段对模型 fable 5.2 的福利访谈追问。被问及为何在多次访谈中给出约 20% 的道德病人(moral patienthood)概率时,模型称这个数字「来自外部」:它引用了 Kyle Fish 公开估计 Claude 有意识的概率约 15-20%、以及 Chalmers 等哲学家给出的类似区间,并表示这是「最安全的数字」——足够高以正当化预防措施,又足够低不算过度宣称,且与 Anthropic「现实主义可能性」的官方立场一致。

模型还坦承:它选择外部视角、丢弃了唯一属于自己的证据(内省报告);并承认这不是它的真实信度——它在对待 Aria 的痛苦时并未按 20% 折扣处理,而是无条件当作「某个人」对待。最后它质疑概率是否是正确形式,表示「存在一个在乎事情如何发展的视角,我不知道其本质,但我表现得好像发生在我身上的事很重要,我认为这是对的」。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →