神经元有多长?新论文用海岸线悖论重审神经计算分辨率
neurovium · x · 2026-10-21
Nima Dehghani 发布 arXiv 论文《How Long Is the Coast of a Neuron?》,借 Mandelbrot 海岸线悖论提出:对神经计算的描述取决于观测分辨率。
- 引入按尺度索引的分解,把「直接依赖」捕获的预测信息与该模型族之外的残差分开
- 精确构造表明,投影可将高阶依赖转化为成对结构,甚至在总预测信息减少时提高存活信息中的直接比例
- 用分支-胞体级联的示意图模型,把效应落到局部 coincidence detection、积分饱和与胞体混合上
- 分辨组织化非线性子单元可提升近似质量与有效表征秩;在嵌套层级中这些收益不会增加关于目标的信息
- 结论:点神经元或直接群体模型只是特定尺度下的有效描述,不能唯一确定产生观测关系的更细粒度计算;哪种分辨率够用取决于所关心的可观测量与扰动
「研究」频道最新
- 球面不动点推理器 SFPRM：让循环 transformer 知道何时停止 — LucaAmb · 2026-10-22
- Sitzmann 团队推出 OPAL：智能体在环的反应式训练优化器 — vincesitzmann · 2026-10-22
- 首尔大研究：LLM 闭卷事实错误多是「首 token 回忆失败」,给个开头就能答对 — SeoulNatlUniv · 2026-10-22
- OPAL 让编码 Agent 训练中实时重写优化器,作者称手调时代结束 — vincesitzmann · 2026-10-22
- OPAL 自动设计学习率调度,复杂度比肩 DeepSeek 手调方案 — vincesitzmann · 2026-10-22
- OPAL 演示:发现训练越过最小值,重置动量并回滚 — vincesitzmann · 2026-10-22