神经网络可训练性边界呈分形:交互式工具揭示调参真相
S_Conradi · x · 2026-07-24
开发者基于经典论文构建了一个交互式 Notebook,直观展示了神经网络中“能训练”与“发散”的学习率边界实际上是分形的,正如曼德博集合一样。
核心要素
- 交互式探索:支持拖拽缩放,每次深入都会在 GPU 上约 1 秒内重新计算 65,536 次完整训练,揭示出无穷的细节。
- 真实数据验证:在 MNIST-1D 真实数据集中该分形特性依然存在,且最佳学习率往往紧贴着这条危险的“海岸线”。
- AI 辅助开发:作者利用 Claude Code 在运行中的 Notebook 内直接编写代码、读取状态并编辑单元格,完成了这一项目。
所属事件:研究揭示神经网络学习率边界呈分形结构(4 条相关)→
「研究」频道最新
- DSPy 和 GEPA 用户常靠自定义 proposer 降低过拟合 — dbreunig · 2026-07-24
- 机器人模型在任务中途换手后仍能重新完成动作 — E0M · 2026-07-24
- 用编码 agent 把研究生教材做成交互式导师 — ChengleiSi · 2026-07-24
- 模型突然“开窍”比平滑收敛更有戏剧感 — alex_peys · 2026-07-24
- Muse Spark 1.1 在 Online-Mind2Web 上拿到 90.2% — DhruvBatra_ · 2026-07-24
- 数学家断言:LLM 将揭开学术界「权威定理」的隐藏漏洞 — kylekabasares · 2026-07-24