研究者吐槽 Transformer 编解码器命名：本质只是注意力掩码差异

多位研究者再度质疑 Transformer 中 encoder/decoder 的传统命名。jramapuram 表示一直无法理解这种划分，认为本质上一切都只是 self-attention 或 cross-attention 加上注意力掩码的差异。TimDarcet 进一步指出，所谓「decoder-only」Transformer 从来就不是解码器：它是从数据空间映射到数据空间，若换个名字情况会更清楚。讨论引发对这一沿用已久术语体系的反思。

2026-09-10 ~ 2026-09-10 · 2 条相关

• 「decoder-only」从不是解码器:研究者吐槽 Transformer 命名积误 — TimDarcet · 2026-09-10
• 研究者吐槽 Transformer 编解码器命名:一切只是注意力掩码差异 — TimDarcet · 2026-09-10