Yale 研究发现 LLM 内部表征存在符号结构
tallinzen · x · 2026-10-09
耶鲁团队(RT Tom McCoy 等)的研究被 Yale News 专题报道:研究发现大语言模型内部向量表征中存在类似符号的结构,帮助解释聊天机器人在语言、逻辑和数学任务上的「推理」机制。作者用「点彩画」作类比——LLM 内部的向量并非单一符号,而是像修拉的点彩画一样由多重信息叠加构成。研究意在弥合神经网络的分布式表征与人类符号化思维之间的理解鸿沟。
「研究」频道最新
- Ditto-Bench 实测 GPT-6 Astra 机器人控制：复杂任务仍易卡壳 — anand_bhattad · 2026-10-09
- 研究：LLM 能读取已截断上下文信息，瓶颈在引导而非存储 — Sauers_ · 2026-10-09
- 直接改权重：Goodfire VPD 让模型答对率提升 10 倍，并揭开自省失效机制 — Sauers_ · 2026-10-09
- 从经验中学习长什么样:模型在棋局中学会重视和棋 — anirudhg9119 · 2026-10-09
- 关闭单个注意力头竟改善 Qwen3-1.7B 的「自省」行为 — Sauers_ · 2026-10-09
- 模型能内省找回已删除的 CoT 词元,机制却出人意料 — Sauers_ · 2026-10-09