MIT 团队推出交互式 Transformer 图示,加入反向传播可视化

MIT 研究者 vtabbott 介绍其团队在 zardini.mit.edu 上的交互式 Transformer 图示项目,已将反向传播(训练步)纳入缩放点积注意力等图示,覆盖从《Attention Is All You Need》以来的核心结构。实测显示,同一页面可清晰展示 Scaled Dot-Product Attention 的前向与反向传播全过程,目标是帮助模型乃至学习者理解自身运作机制。

2026-10-22 ~ 2026-10-22 · 2 条相关