DiscipleOfZara:核心洞见仍是 Attention Is All You Need
DiscipleOfZara · x · 2026-11-03
DiscipleOfZara 重申其论点:核心洞见依然是《Attention Is All You Need》,kalomaze 列举的 RoPE、SwiGLU、GQA 等全都是 Transformer 之上的增量改进,没人会否认用了这些技术的模型是 Transformer。与 kalomaze 关于架构是否发生实质演变的争论的一部分。
所属事件:kalomaze 与 DiscipleOfZara 激辩 Transformer 架构演进之争(5 条相关)→