系统性扫描发现：最优优化器随批量大小而变
aaron_defazio · x · 2026-10-10
@xingyudang 团队对「哪种优化器最好」这一问题做了全面的批量大小（batch size）扫描实验，发现答案会随批量大小变化：最优的 batch size 缩放规则取决于具体实验设置，无法从 SDE 近似或凸优化上界等早期理论推导得出。
所属事件:研究：最优优化器随批量大小而变，排名可翻转(2 条相关)→
「研究」频道最新
- Adobe 推出 OmniSeek:让 Omni 模型主动检索音视频证据做多轮推理 — mohitban47 · 2026-10-10
- 新论文:纯视觉 DINOv2 与纯文本 Qwen3 涌现出惊人相似的世界几何结构 — lmoroney · 2026-10-10
- DINOv2 与 Qwen3 零配对对齐:图像与语言模型的世界表示惊人接近 — lmoroney · 2026-10-10
- 研究：参数化神经控制可区分灵长类视皮层顶级视觉模型 — Dr_Alex_Crimi · 2026-10-10
- 架构论文阅读清单流出:Mamba-3 两周前新法可做非交换状态追踪 — zmkzmkz · 2026-10-10
- Dex-One2Many:一条人类视频训出多种构型操作机器人 — furongh · 2026-10-10