斯坦福 CS336 课程：现代 Transformer 架构设计权衡
stanfordnlp · x · 2026-08-27
Stanford NLP 转发了 CS336 深度学习课程的学习笔记。笔记指出，现代 Transformer 架构本质上是大量经验验证过的设计选择的集合，这些选择旨在平衡表达能力、训练稳定性、GPU 效率、内存使用和推理成本。
「研究」频道最新
- 40 位作者联名：思维链监控是 AI 安全的脆弱机会 — idavidrein · 2026-08-27
- 跨越 75 年：现代 LLM 将英文压缩至每字符 1 比特以下 — docmilanfar · 2026-08-27
- 攻击揭秘：用时间戳窃取模型架构与推理优化 — niloofar_mire · 2026-08-27
- 蒸馏学的是犹豫不是答案：小模型变强的手艺与多轮崩盘的坑 — 大模型之路 · 2026-08-27
- 拆解 DeepSeek 如何以 1/30 价格完成训练 — wordgrammer · 2026-08-27
- UCLA 提 LongMemEval-V2：Agent 需像老同事一样熟记环境 — dair_ai · 2026-08-27