研究者争论 TPP 是否适合衡量扩散模型训练量

围绕扩散模型训练量基准的讨论中，torchcompiled 质疑 TPP（每张图 token 数）作为图像生成模型指标的合理性：从计算量看成立，但与自回归 LLM 的「一个样本一个 loss」相比含义不同，并认为扩散模型训练偏慢还源于采样 t 与噪声引入的额外梯度噪声。为提供共同参照，Jiawei Yang 给出基于 ImageNet-1K 和标准 DiT 的 TPP 基线表：400 epochs 下 XL 约为 194 TPP。

2026-11-12 ~ 2026-11-12 · 3 条相关

• DiT 训练 TPP 基线表:400 epochs 下 XL 约 194 TPP — JiaweiYang118 · 2026-11-12
• 研究者质疑 TPP 对图像生成模型是否是合理的训练量指标 — torchcompiled · 2026-11-12
• torchcompiled:扩散模型训练偏慢或源于采样 t 与噪声带来的梯度噪声 — torchcompiled · 2026-11-12