多伦多大学团队提出 AREa:自适应感受野注意力解锁高分辨率图像生成
CSProfKGD · x · 2026-10-22
CS 教授 campus walk 晒出的论文《AREa: Adaptive Receptive-Field Attention for Efficient High-Resolution Diffusion Transformers》(arXiv:2610.17227,作者 Javad Rajabi、Koorosh Roosh、David B. Lindell、Babak Taati,多伦多大学与 Vector Institute)。
- 问题:DiT 高分辨率生成中全注意力随 token 数平方增长,且训练与微调存在分辨率落差,细节易崩
- 关键观察:去噪早期步需要全局上下文,后期步只需局部注意力刻画细节
- 方法:AREa 在训练早期步用下采样 key 的粗粒度交叉注意力,后期步对新增 key/value 施加局部注意力,窗口随尺度渐进收缩
- 论文称无需训练即可让 FLUX.1、Qwen-Image、FLUX.2、Ideogram 4 等模型高效生成高分辨率图像
- 项目页:arajabi2001.github.io/area/
「研究」频道最新
- 法律AI评测没有单元测试，Crosby 用模型预测律师是否采纳 AI 修改 — graceisford · 2026-10-22
- 复现 Gemini 机器人报告：零样本双臂交接 harness 现已开源 — berkeley_ai · 2026-10-22
- SCOUT 方法：机器人凭动作结果反馈，几次尝试即可实机自适应 — davheld · 2026-10-22
- Baker Lab 联合 NVIDIA 发布蛋白质从头设计新模型 — AllThingsApx · 2026-10-22
- 网友调侃：RFdiffusion 不再是扩散模型，Proteina 不只做蛋白 — AllThingsApx · 2026-10-22
- EAU 让元智能体接管 RL 训练：ColBench 任务完成率提升 36.7% — xiye_nlp · 2026-10-22