AReA 免训练让 DiT 分辨率扩 6 倍、提速 3.2 倍
CSProfKGD · x · 2026-10-15
多伦多大学团队发布论文 AReA: Adaptive Receptive-Field Attention,提出一种免训练的注意力机制,让 Diffusion Transformer 生成远超训练分辨率的图像。
- 问题诊断:全注意力在高分辨率下 token 数平方级膨胀、成本高昂,且相对距离超出训练范围导致结构畸变与细节退化——两者同源。
- 关键观察:注意力的有效感受野随去噪进程收窄——早期步骤偏全局(定结构),后期步骤偏局部(修细节)。
- 方法:早期步骤对下采样的 key/value 做跨尺度粗注意力捕捉全局上下文,后期步骤在逐步收缩的窗口内做局部注意力,感受野随去噪由粗到细演化。
- 结果:不加参数、无需训练,在多个模型与目标分辨率上一致超过 SOTA 免训练基线,最高支持 6 倍原生分辨率、提速 3.2 倍。
论文、项目页与 Hugging Face 资源均已公开。
所属事件:多伦多大学发布AReA免训练注意力,DiT高分辨率生图提速3.2倍(4 条相关)→
「多模态」频道最新
- 用 Opus 搭出孟买 3D 漫画生成器:25 地标 4 种画风可导出 — CurieuxExplorer · 2026-10-15
- 用 Genjutsu 把角色扔进孟买酒店,迪斯科名场面笑翻 — CurieuxExplorer · 2026-10-15
- 自训 Krea 2 LoRA 生成精灵图:租 B200 仅 0.14 秒一张 — Angaisb_ · 2026-10-15
- 炫彩潮汐流出图模板:一句话让主体泛起光谱水波 — LudovicCreator · 2026-10-15
- 用 Seedance 2.5 生成卓别林角色设定图,多视角一致性惊人 — CurieuxExplorer · 2026-10-15
- 「无辜直到证明好笑」:Seedance 2.5 梵高风咖啡动画演示 — CurieuxExplorer · 2026-10-15