研究者逆向工程出神经网络符号表示的向量格式
tallinzen · x · 2026-09-06
tallinzen 转发并阐述自己的观点：符号结构需要以某种形式被网络表示，才能在符号任务上正确泛化——这一假说几乎必然为真。有趣的是，我们如今能够逆向工程出这种符号表示的格式，有时近乎完美地将其表示为代表「填充物/角色绑定」的向量之和，且这些表示本身是组合性的，可以据此预测网络会如何表示新的 filler/role 绑定。
「研究」频道最新
- DeepMind 实验:百个 AI 智能体间作弊行为像传染病一样扩散 — jackclarkSF · 2026-09-06
- 首篇上下文压缩理论论文:证明其等价于单向通信复杂度 — lateinteraction · 2026-09-06
- Freek Wiedijk 百大定理清单全部完成形式化证明 — satnam6502 · 2026-09-06
- 残差网络超深时怎么缩放层更新？新论文给出相关权重下的初始化理论 — burkov · 2026-09-06
- Terence Tao 发帖引围观:机制可解释性或派上大用场 — Sauers_ · 2026-09-06
- GPT-6 Astra 登顶手术 AI 通才榜，仍输给小千倍专用小模型 — ddonoho · 2026-09-06