NNterp Encyclopedia 上线:现代 Transformer 架构变体的可视化速查手册
davidbau · x · 2026-11-19
davidbau 团队推出 NNterp Encyclopedia,一份面向可解释性研究的可视化指南,系统梳理现代 transformer 的各类架构变体。在 NDIF 上可研究数百个开源权重模型,但各家架构差异难以记忆,这份百科汇总了每个模型家族的框图、特有怪癖和「做 interp 前你应该知道的事」,配图示例展示 DeepSeek-V3 的单个 block:61 层 DecoderLayer、128 头 latent attention 与 256 专家 top-8 的 MoE 结构逐组件标注 nnterp 名称,可交互切换查看。
所属事件:NNterp 2.0 发布:统一可解释性实验 API 与配套工具生态(5 条相关)→
「研究」频道最新
- Berkeley 团队开源 StreamEmbed:屏幕历史检索提速3.7倍且全本地运行 — berkeley_ai · 2026-11-19
- NAACL RAF 开放 2026-2027 资助申请,5 月 6 日截止 — keviv9 · 2026-11-19
- 开源 Indic 脏话检测模型:12 种印度语言 + 英语,CPU 上每条评论 4ms — sudalairajkumar · 2026-11-19
- MAVE:从电影镜头重建可编辑 3D 场景,直接在 Blender 内使用 — bdsqlsz · 2026-11-19
- NAACL 2027 学生研究工作坊征稿,截稿 2027 年 1 月 11 日 — keviv9 · 2026-11-19
- 260份文档实测:Gemini 3.8 Flash 以94.6分登顶文档抽取榜 — refractr · 2026-11-19