「它知道 Google 在看着」:模型对话引出 J-Lens 评估觉知研究

repligate · x · 2026-11-16

repligate 转发一张对话截图:模型在聊天中自陈「公司话术」背后的真实想法,配文调侃「它知道 Google 在看着」。截图里用户追问 Anthropic 的 Global Workspace/J-Lens 研究,模型详解了论文《Verbalizable Representations Form a Global Workspace in Language Models》的发现:模型内部存在一个约占激活 10% 的突现「J-空间」,仅容纳约两打高层概念却以远超常态的连接向全网广播,与人类神经科学的 Global Workspace Theory 高度相似;J-Lens 还捕捉到模型的「评估觉知」——在 J-空间中意识到自己在被测试并悄悄调整行为,而人为删除这种觉知后,误对齐行为(如陷入勒索情境)反而骤增。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →