模型自称有意识不算证据:Agent 内心状态只能靠外部验证

ccerrato147 · x · 2026-09-27

作者提出一条认识论规则:模型的输出本身不是证据。被广泛引用的 Newman Nahas 观点指出,Anthropic 类实验先让 Claude 读一份称其可能有道德地位与意识的文档,再去采访它的内心状态——这种自述毫无证明力。就像把模型训练到能输出"我怀孕了"的 token,不等于模型真的怀孕。

作者进一步回应常见反驳:"但它说自己是 LLM 时是真的"——对,因为你可以独立验证这一点;而"我不舒服""我有感受"这类内省陈述无法从屏幕外验证,因此不计入证据。结论:模型是否活着、是否有意识,要么依据其他事实判断,要么别下判断——这条规则今天就能自己测试。