像素空间DiT中的Register作用
yresearch · hf · 2026-07-16
这篇工作研究 **Register Matter for Pixel-Space Diffusion Transformers**,关注的是 register token 在像素空间 DiT 中是否仍然有用。 要点如下: - ViT 里 register token 常用于缓解 patch-token outliers;但作者发现像素空间 DiT **并不表现出同样的 outliers**。 - 尽管如此,DiT **仍然受益于 registers**,而且在像素空间比潜空间更有效。 - 通过中间表示分析,作者发现 registers 能在高噪声阶段产生更干净的特征图,这可能解释了它们为何有效。 - 论文还提出 **Register Guidance**:放大负责提升视觉结构与一致性的 register token 贡献。 - 作者进一步指出,一些近期像素空间 DiT 架构其实已经隐含了类似 register 的机制,这或许部分解释了它们的强性能。
所属事件:研究证实Register Tokens在像素空间DiT中同样有效(2 条相关)→
「编程与Agent」频道最新
- TokenPrint 把 Qwen 推理做成 DevTools 式调试器 — Rich-Fruit-326 · 2026-07-21
- 本周必读 AI 论文:智能体、长上下文 RL 和机器人策略 — TheTuringPost · 2026-07-21
- Mingle 用 MCP 让 Agent 直接帮你找合作对象 — PassionGlittering106 · 2026-07-21
- Insight Partners 画出拥挤的 AI 自动化与 Agent 版图 — n_sri_laasya · 2026-07-21
- 路由故障让 Claude Code 智能体 3.5 小时烧掉 3020 万 token — RileyRalmuto · 2026-07-21
- 整理 Codex 反复使用的代码与认知术语 — alexisgallagher · 2026-07-21