对比内省实验揭示 LLM 自述机制,读神经元或可测谎

davidbau · x · 2026-10-06

David Bau 推荐 diatkinson 等人的新论文,称「对比内省」实验设置是一个出色的实验平台:它揭示了大规模语言模型为何能工作得如此之好,并暗示了一条谎言检测的路径。关键洞见在于:同一个 AI 在说「我认为 X」时,有时给出深刻而准确的洞见,有时却只是随机鹦鹉式地撒谎;通过读取内部神经元的活动,我们或许能分辨两者的区别。这项工作是 diatkinson、dillonplunkett 与 David Bau 的合作成果,原文附论文链接。