François Fleuret 科普：投影前后各做一次 RMSNorm 称作 Sandwich Norm
francoisfleuret · x · 2026-11-07
François Fleuret 分享今日所学：在投影（projections）之前和之后都做 RMSNorm 的结构被称为 Sandwich Norm。这是一条简短但有用的架构术语知识，点出了 Transformer 归一化布局的一种命名惯例。
「研究」频道最新
- Michael Levin 转发新书:发育生物学开放问题集出版 — drmichaellevin · 2026-11-07
- 谷歌 AI 用普通手表无袖带测高血压,检出率 65.8% 超诊室测量 — The Decoder · 2026-11-07
- 模型每周悄悄漂移：开发者开源配对式 prompt 评测工具 — gael55x · 2026-11-07
- Pedro Domingos 分享 Transformer 工作原理讲解 — pmddomingos · 2026-11-07
- 清华团队 ParallelWorld 测试时扩展,空间交换任务成功率 56%→83% — jiqizhixin · 2026-11-07
- RevealLayer ComfyUI 节点发布：图层分解与遮挡内容还原 — TBG______ · 2026-11-07