动态稀疏训练:不到一成突触性能反超稠密网络

dlevenstein 介绍了其实验室的「动态稀疏训练」研究:网络在学习过程中交替进行常规学习与类似睡眠阶段的剪枝和突触再生。实验结果显示,这种只用不到 10% 突触的稀疏网络,性能反而超过了全连接的稠密网络,展示了受生物启发的稀疏化方法在效率与效果上的潜力。

2026-11-15 ~ 2026-11-15 · 2 条相关