SpecSlot：频谱槽位解耦细节与全局注意力，像素空间生图 FID 降 2.84 省算力

Jiongfan Yang · hf · 2026-10-30

北大、南洋理工与 SenseTime 团队提出 SpecSlot，一种像素空间整流流 Transformer。核心观察是：更细的图像细节不一定需要更长的全局注意力序列——低频结构需要全局信息交换，高频细节可局部建模。方法将每个空间锚点扩展为多个频谱槽位，各分配不相交的 DCT 频段，仅最低频槽位参与全局注意力，所有槽位局部交互，从而在不扩大全局序列的情况下增加频谱细节。

实验结果：ImageNet-256 上 FID 与等 FLOPs 的 JiT 基线相当且收敛更快；ImageNet-512 上 FID 提升 2.84 且 FLOPs 少 3.9%，距 JiT-B/16 仅差 0.69 FID 而成本低 38.2%；文生图上 DPG-Bench 超 JiT-B/8 达 1.06，前向成本降 40.6%。