中间层只算 1/4 token:把 DiT 重排成 U-Net 提速 2.3 倍

ostrisai · x · 2026-09-29

开发者 @LodestoneRock 分享:通过残差数学重排,可以把 DiT 等 transformer 残差模型转换成更高效的 U-Net 风格结构,中间层只处理约 1/4 的 token,推理速度比原模型快 2.3 倍。配合快速校准(calibration),即可恢复大部分原始输出质量。方法对任意 transformer 残差模型理论上都适用。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →