LeCun 点评生物可塑性学习算法:一切在 MNIST 上都管用
aran_nayebi · x · 2026-09-16
Sakana AI 的生物可塑性学习研究引发 Yann LeCun 参与,他指出该方法本质上是「target prop」的一个变体:每一层的输入作为自由隐变量、为上一层的输出提供目标,并可从带增广拉格朗日的反向传播推导得出(将「相邻层输入输出一致」约束转化为惩罚项)。
研究者 Aran Nayebi 回应质疑:这些结果只在 MNIST 上验证,而 MNIST 上连 Feedback Alignment 这种简单方法都能奏效,所以「什么都能在 MNIST 上工作」;真正的检验是在大规模训练中无需 weight transport 仍能有效学习。他提到六年前就有工作在 ImageNet 上让生物可塑性学习与反向传播同样可扩展,并附上相关论文链接。
所属事件:Sakana AI 发布 PC-ALM:局部学习训练千层网络(5 条相关)→
「研究」频道最新
- Jev 被指与 8 个月前论文 autorubric 评测抽象几乎一一对应 — deliprao · 2026-09-21
- 研究者称 TypeSafe 的 Jev 抽象与其 8 个月前 Autorubric 论文高度相似 — deliprao · 2026-09-21
- ICLR 2027 投稿超 6 万篇,研究者提议限每人 3-4 篇 — ziv_ravid · 2026-09-21
- ICLR 2027 投稿破 6 万篇,研究者吁全面改革会议制度 — ziv_ravid · 2026-09-21
- Laya 并非仅支持 512 上下文:实为 ModernBERT,配置上限 8192 — antoine_chaffin · 2026-09-21
- 开源决策模型 Kev 发布 0.6B/4B/8B,单张 H100 训练 40 分钟 — TheMoonMidas · 2026-09-21