斯坦福 CS312 实测:循环 Transformer 不划算,中途解绑可挽回 61% 差距

tatsu_hashimoto · x · 2026-11-19

Hashimoto 在深度学习课程 CS312 测验中公布三组对比实验的最终验证损失:

中途解绑挽回了 Looped 与 Dense 之间约 61% 的损失差距。核心结论:

配图为完整测验答案页,含损失对比图与不同共享程度的 sweep 结果。

所属事件:田渊栋斯坦福课程小测:循环 Transformer 中途解绑权重更优(2 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →