NNterp Encyclopedia 上线:现代 Transformer 架构变体的可视化速查手册

davidbau · x · 2026-11-19

davidbau 团队推出 NNterp Encyclopedia,一份面向可解释性研究的可视化指南,系统梳理现代 transformer 的各类架构变体。在 NDIF 上可研究数百个开源权重模型,但各家架构差异难以记忆,这份百科汇总了每个模型家族的框图、特有怪癖和「做 interp 前你应该知道的事」,配图示例展示 DeepSeek-V3 的单个 block:61 层 DecoderLayer、128 头 latent attention 与 256 专家 top-8 的 MoE 结构逐组件标注 nnterp 名称,可交互切换查看。

所属事件:NNterp 2.0 发布:统一可解释性实验 API 与配套工具生态(5 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →