CS 教授指出 DiT 去噪后期有效感受野远小于理论值
CSProfKGD · x · 2026-10-22
拥有 8.7 万粉丝的 CS 教授（CSProfKGD）点评了一项关于扩散 Transformer（DiT）的新研究：在去噪后期阶段，DiT 的有效感受野显著小于理论感受野。
他指出这一观察与 2017 年的经典论文《Understanding the Effective Receptive Field in Deep Convolutional Neural Networks》（Luo、Li、Urtasun、Zemel，NIPS 2016）遥相呼应——该论文首次提出「有效感受野」概念，证明 CNN 的有效感受野呈高斯分布、仅占理论感受野的一小部分，并分析了非线性激活、dropout、下采样与跳跃连接对其的影响。
这条评论把十年前 CNN 架构的重要发现与当下 DiT 架构的实证研究串了起来，暗示「理论连接数 ≠ 实际信息整合范围」是跨架构的普遍现象。
所属事件:研究称 DiT 有效感受野远小于理论值，AREa 提出自适应注意力(3 条相关)→
「研究」频道最新
- JOLT 机制拆解:同一模型师徒双角色,防老师走捷径 — perplexity_ai · 2026-10-22
- Perplexity 发布 JOLT:训练 token 只需 GRPO 的 1/6.5 — perplexity_ai · 2026-10-22
- PDD 蒸馏发布月余即被阿里、NVIDIA 等六家团队采用 — ArashVahdat · 2026-10-22
- RFD4-Proteina 蛋白设计：DNA 结合子通过率 3.5% vs 基线 0.8% — AllThingsApx · 2026-10-22
- RFD4-Proteina 77 个小分子结合靶标全部通过计算结构检查 — AllThingsApx · 2026-10-22
- 新研究：LLM 会隐式猜测用户身份，且影响其拒绝行为 — zeynepakata · 2026-10-22