DiT里加register tokens也有效
serrjoa · x · 2026-07-17
这条转述了一篇关于 Diffusion Transformers（DiT）的研究观察： - 先前在 Vision Transformers 里，加入 register tokens 被认为能修复一些伪影；但在 DiT 里，作者原本预期这类 token 不会带来帮助。 - 实际结果却相反：即使只是加入几个空 token，也能让像素空间 DiT 的 FID 从 **3.52** 降到 **2.69**。 - 结论是：register tokens 在 DiT 中也可能有效，尤其对像素空间模型的生成质量有明显改善。