受可解释性论文启发 无反传预训练提速2.3倍

一位开发者受 Nick Cammarata 可解释性文章《Neural Networks Are Already Clean》启发,将文中思路落地为无需反向传播的预训练加速方案,据报道训练提速 2.3 倍。新提出的 Noise 方法已接近此前的 Dust 方法纪录,显示反向传播在大规模预训练中或非必需,引发社区对替代训练范式的关注。

2026-10-18 ~ 2026-10-18 · 2 条相关