研究发现不同任务将神经网络权重拉向不同聚类

FAU Erlangen-Nürnberg 等机构团队在《Frontiers in Cognition》发表论文，探究不同学习任务是否像吸引子一样，把训练中的神经网络拉向权重空间中的不同区域。研究者在 MNIST、Fashion-MNIST 和 KMNIST 上各训练多个小型网络，在消除神经元置换与 ReLU 相关对称性等因素后，发现四次更新后权重即发生聚类，且不同任务对应权重空间中不同的聚类，表明同一架构并非殊途同归。

2026-10-26 ~ 2026-10-28 · 2 条相关