Anthropic 论文:语言模型内部存在类似「全局工作空间」的可言说表征
MoonL88537 · x · 2026-10-19
Anthropic 侏罗纪团队(Transformer Circuits Thread)发布可解释性新研究《Verbalizable Representations Form a Global Workspace in Language Models》,核心结论:现代语言模型内部自发涌现出与人类认知类似的功能分层。
要点:
- 人类心智大部分处理是无意识的,只有一小撮「特权」神经活动可供深思熟虑地规划与推理;研究发现在语言模型中也出现了类似的划分
- 模型维护着一组特权内部表征,可供报告、调制和灵活的内部推理,其下是更大规模的自动处理
- 团队开发了新的可解释性技术,能随时呈现模型「 poised to verbalize」的概念;测量和干预这些表征为窥探模型思维过程提供了窗口
作者包括 Wes Gurnee、Jack Lindsey(通讯)等,2026 年 7 月发布。
「漫话AGI」频道最新
- 投稿激增叠加 AI 冲击，多本概率顶刊宣布关闭投稿一个月 — michaelchchoi · 2026-10-19
- Peter Diamandis：AI 不会让人无用，但会让人停止独立思考 — PeterDiamandis · 2026-10-19
- 从咨询顾问到 FDE：一场漂亮的营销改名，客户未必受益 — springrod · 2026-10-19
- 「适应 AI」不是学工具：人类正失去对世界的因果主导权 — danfaggella · 2026-10-19
- 「AI 时代我在哀悼逝去的梦想」：Reddit 热帖谈技术繁荣下的失落 — 777thLight · 2026-10-19
- Google 大规模「污染」SERP，疑为反 AI 爬虫误伤排名追踪商 — lilyraynyc · 2026-10-19