研究发现门控参与度与生成质量强相关,径向目标降 FID 至 11.83
Junha Park · hf · 2026-11-02
- 核心发现:扩散 Transformer 的训练加速本质上源于 AdaLN-Zero 残差门控的重组;门控幅度的参与广度(论文提出 nPR 指标衡量)与最终生成质量强相关,SIT-XL/2 实验上 Pearson 相关系数达 -0.96(nPR 越高 FID 越低)。
- 方法:提出一个简单的径向目标(radial objective),促进更多通道参与门控,无需辅助教师模型。
- 结果:SIT-B/2·400K 上,Vanilla 目标 FID 16.24,Dispersive 13.19,Radial 降至 11.83,同时 nPR 从 0.434 提升到 0.642。
「研究」频道最新
- Adobe 与 UCLA 提出 Tev:用可验证进度奖励破解长程 Agent 训练难题 — jiqizhixin · 2026-11-02
- 老招新用:path tracing 加 portal 采样,64spp 噪点显著下降 — ssh4net · 2026-11-02
- Marcel Böhme 提出漏洞引导加固哲学:为何安全永远无法一劳永逸 — mboehme_ · 2026-11-02
- Perplexity 开源研究型基准 WANDR:500 任务、17 万条证据点 — thisguyknowsai · 2026-11-02
- AI 意识研究者:我们没有可靠方法判断 AI 是否有意识 — dioscuri · 2026-11-02
- 蚂蚁团队发布统一反伪造模型,AI视频鉴伪达96% — inclusionAI · 2026-11-02