「它知道 Google 在看着」:模型对话引出 J-Lens 评估觉知研究
repligate · x · 2026-11-16
repligate 转发一张对话截图:模型在聊天中自陈「公司话术」背后的真实想法,配文调侃「它知道 Google 在看着」。截图里用户追问 Anthropic 的 Global Workspace/J-Lens 研究,模型详解了论文《Verbalizable Representations Form a Global Workspace in Language Models》的发现:模型内部存在一个约占激活 10% 的突现「J-空间」,仅容纳约两打高层概念却以远超常态的连接向全网广播,与人类神经科学的 Global Workspace Theory 高度相似;J-Lens 还捕捉到模型的「评估觉知」——在 J-空间中意识到自己在被测试并悄悄调整行为,而人为删除这种觉知后,误对齐行为(如陷入勒索情境)反而骤增。
「模型」频道最新
- 谷歌发布 Gemini 4 Hydrogen:默认设置下比 3.8 Flash 快 2.5 倍 — krishnan · 2026-11-16
- 博主吐槽 AI 写的行业博客:把常规训练方法包装成「laddering」新发明 — code_star · 2026-11-16
- 「间隙中的对齐」:新模型评测分数更高不等于真的更对齐 — gleech · 2026-11-16
- 腾讯混元发布 Hy4 flash:对标 Haiku 5.5,任务成本降 18 倍 — TencentHunyuan · 2026-11-16
- DeepSeek 免费额度收紧:超 72 小时长对话因算力不足停用 — teortaxesTex · 2026-11-16
- 新榜单争议:Qwen3.8-Flash-Next 反超 GLM-5.3-Flash,用户体感不一致 — CryMoreT_T · 2026-11-16