从 GPT-2 到张量级:两个交互可视化把 Transformer 讲到底
techNmak · x · 2026-09-04
推荐 Brendan Bycroft 的 LLM Visualization:比大多数 Transformer 图解更深,可从模型层级一路放大到生成下一个 token 的张量和具体运算。如果注意力对你来说还是「框和箭头」,值得花时间在这里。
上一位推荐 Transformer Explainer:输入自己的文本,看着它流经 GPT-2 的 tokenization、embeddings、attention、MLP、logits、softmax 和 next-token 预测全过程,是让 Transformer 架构具体化的最清晰方式之一。
所属事件:别再从静态图学 AI：从入门到研究级的可视化学习资源全集(13 条相关)→
「研究」频道最新
- ACS 推免费平台，研究者可白嫖 Llama 3.1 8B/405B 基座模型 — jankulveit · 2026-10-21
- LessWrong 长文引入「LM 心理学」：像心理学家一样直接与模型对话 — jankulveit · 2026-10-21
- LiFT 循环复用 DiT 核心：参数减 60% 仍胜稠密基线 3.34 FID — burny_tech · 2026-10-21
- 斯坦福学者激辩基因组大模型:变体预测成绩为何只挑着报 — anshulkundaje · 2026-10-21
- Gemini 数小时破解悬置 59 年的核聚变磁场数学猜想 — DynamicWebPaige · 2026-10-21
- Bombadil:解码植物生物电信号的基础模型问世 — tdhopper · 2026-10-21