Pedro Domingos:该把残差流直接叫作 RAM 了
pmddomingos · x · 2026-09-10
机器学习知名学者、《The Master Algorithm》作者 Pedro Domingos 发文称,是时候把 Transformer 里的 residual streams(残差流)按其实质直接称为 RAM 了——指出残差流在模型中承担着类似内存的角色,各层通过读写它来传递与组合信息。这一类比在 ML 圈引发对 Transformer 内部机制命名与理解的讨论。
「模型」频道最新
- DeepSeek Harness v0.1.5 发布：与 V4.1 Flash 模型训练深度结合 — teortaxesTex · 2026-09-10
- 上交大等发布 iCoder-27B:智能体自主设计训练流程登顶工业级编程模型 — jiqizhixin · 2026-09-10
- 下代 Gemini Pro 单次输出上限将达 262k,现为 65k 的 4 倍 — Able-Line2683 · 2026-09-10
- 从 Claude 转投 Codex:5 小时限额更高,周限额却两天耗掉七成 — Additional-You9968 · 2026-09-10
- 中转站把 Pro 静默路由到 Flash，用户流程全崩引发吐槽 — teortaxesTex · 2026-09-10
- 数学家指控 OpenAI Astra 疑用其未发表研究解出 Gromov 猜想 — basedjensen · 2026-09-10