像素空间DiT中的Register作用

yresearch · hf · 2026-07-16

这篇工作研究 **Register Matter for Pixel-Space Diffusion Transformers**,关注的是 register token 在像素空间 DiT 中是否仍然有用。 要点如下: - ViT 里 register token 常用于缓解 patch-token outliers;但作者发现像素空间 DiT **并不表现出同样的 outliers**。 - 尽管如此,DiT **仍然受益于 registers**,而且在像素空间比潜空间更有效。 - 通过中间表示分析,作者发现 registers 能在高噪声阶段产生更干净的特征图,这可能解释了它们为何有效。 - 论文还提出 **Register Guidance**:放大负责提升视觉结构与一致性的 register token 贡献。 - 作者进一步指出,一些近期像素空间 DiT 架构其实已经隐含了类似 register 的机制,这或许部分解释了它们的强性能。

所属事件:研究证实Register Tokens在像素空间DiT中同样有效(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →