通过模型内部表征探测隐性指令遵循，呼应 J-space 研究

dioscuri · x · 2026-11-02

这是一场关于意识探测的讨论：有人指出，通过让患者想象特定心理画面并观察 fMRI 信号，已能在植物状态/闭锁综合征患者中识别出有意识者——而这在猫身上行不通，在机器上却可能可行，且牵涉道德与人格地位问题。dioscuri 回应指出，这与 Wes 等人的 J-space 工作有密切平行：可以通过任务特定的内部表征（而非外在行为）来检测模型是否在隐性遵循指令。配图展示了 J-lens 在多个提示上的读数：模型被要求记住某概念或心算时，特定层会出现对应内部表征。