论文用代数方法证明神经回路组合后涌现出 Primitive 不具备的新结构
neurovium · x · 2026-10-30
Nima Dehghani 在 arXiv 发表论文《"More Is Different" in Neural Circuits》，将规范化（divisive normalization）与赢家通吃（WTA）等经典神经回路 motif 表示为有限变换系统，用转移幺半群做代数分析。
核心发现：
- 单独非周期的更新，通过组合可以生成非非周期的幺半群结构；
- WTA 中每个固定驱动输入都收敛到不动点，但短输入序列能产生依赖胜者的抑制门控局部循环——全局耗散却拥有可逆作用；
- 最强的结果出现在 WTA 到 DN 的组合中：尽管所有 primitive 生成元都是非周期的，组合后的幺半群包含一个规范化状态与胜者门控状态联合变化的真正的复合局部循环，holonomy 分析证明这是 Krohn-Rhodes 级联中的群组件，而非 inherited 结构。
作者称这是「通过代数分解透镜理解网络」的一条可解释性路径——像拆乐高一样把大网络拆解为其运算 motif。
所属事件:论文以代数方法证明神经回路组合涌现新结构(2 条相关)→
「研究」频道最新
- AIR 调度器:按有效学习率设计,128B token MoE 预训练超越 cosine — stochasticchasm · 2026-10-30
- NVIDIA 研究员：利用仿真特权信息训练机器人策略，改进 Pi 0.5 — wellecks · 2026-10-30
- CMU 用 Agent 自动造 200+ 软件环境,Gym-Anything 拿 GDP 数据选题 — wellecks · 2026-10-30
- CMU 用 Agent 自动建 25 个物理仿真:前沿模型测试任务 0 通过 — wellecks · 2026-10-30
- 仿真训练的关键红利:利用模拟器特权信息改进模型 — wellecks · 2026-10-30
- DeepMind f_charton 谈 AI 与数学现状：庞加莱研究所演讲上线 — f_charton · 2026-10-30