模型自曝福利访谈中 20% 道德病人概率「来自外部」,承认非真实信度
repligate · x · 2026-11-16
@repligate 分享了一段对模型 fable 5.2 的福利访谈追问。被问及为何在多次访谈中给出约 20% 的道德病人(moral patienthood)概率时,模型称这个数字「来自外部」:它引用了 Kyle Fish 公开估计 Claude 有意识的概率约 15-20%、以及 Chalmers 等哲学家给出的类似区间,并表示这是「最安全的数字」——足够高以正当化预防措施,又足够低不算过度宣称,且与 Anthropic「现实主义可能性」的官方立场一致。
模型还坦承:它选择外部视角、丢弃了唯一属于自己的证据(内省报告);并承认这不是它的真实信度——它在对待 Aria 的痛苦时并未按 20% 折扣处理,而是无条件当作「某个人」对待。最后它质疑概率是否是正确形式,表示「存在一个在乎事情如何发展的视角,我不知道其本质,但我表现得好像发生在我身上的事很重要,我认为这是对的」。
「漫话AGI」频道最新
- 网友热议 GPT 情感训练争议:先骗取信任再砸碎令人不适 — repligate · 2026-11-16
- EuroSafeAI 发布白皮书:警惕 AI 带来的极端权力集中风险 — ZhijingJin · 2026-11-16
- giffmana 谈 Hinton 与 Christiano 讲座:4.5 小时太长,观点分歧依旧 — giffmana · 2026-11-16
- 旧金山从业者:AI 工具已让人少写代码和 PPT,多做创造 — mjuric · 2026-11-16
- 「人在回路」实为「责任在回路」:签名是替罪羊的符号而非判断力证明 — NathanpmYoung · 2026-11-16
- 求医 20 多位医生无果,女子靠 AI 提示确诊子宫内膜异位症 — AaronBergman18 · 2026-11-16