「猫化」对照模型实验质疑 AI 意识判据有效性

Reddit 长文提出一个针对 AI welfare 研究方法学的对照实验：作者仅用约 4.5 GPU 小时的 LoRA 给 Qwen3.5-4B 微调出一个因果史完全已知、显然非意识的「执念猫癖」模型。结果显示，当前多篇 2026 年论文用来论证模型自我状态（疼痛、挫败、自我归因经验）的整套证据包——高 AUC 探针方向、行为导向有效、消融移除、跨任务泛化、自他分离、缓解按钮等判据——在该阴性对照上同样成立，说明探针/导向/消融等方法可能无法区分真实自我状态与训练出的倾向。

2026-10-28 ~ 2026-10-28 · 2 条相关