Sakana 推出 PC-ALM:不用反向传播训练千层网络,LeCun 点评
ylecun · x · 2026-09-15
Sakana AI 发布 PC-ALM,一种替代反向传播的局部学习方法,仅靠局部动力学即可训练 1000 层神经网络。
- 核心思路:每层输入被视为自由隐变量,作为上一层的优化目标,即「target prop」路线
- 理论基础:可从反向传播的增广拉格朗日形式推导——把「层 k+1 的输入 = 层 k 的输出」约束转为惩罚项(两者散度)
- LeCun 转发点评:很高兴看到这个 2000 年代末其实验室在稀疏自编码器上探索过的方向被重新拾起,但他强调 target prop 最终优化的仍是与反向传播相同的目标,只是梯度计算方式不同,或许更具生物学合理性
所属事件:Sakana AI 发布 PC-ALM:局部学习训练千层网络(5 条相关)→
「研究」频道最新
- Adobe 与 UCLA 提出 Tev:用可验证进度奖励破解长程 Agent 训练难题 — jiqizhixin · 2026-11-02
- 老招新用:path tracing 加 portal 采样,64spp 噪点显著下降 — ssh4net · 2026-11-02
- Marcel Böhme 提出漏洞引导加固哲学:为何安全永远无法一劳永逸 — mboehme_ · 2026-11-02
- Perplexity 开源研究型基准 WANDR:500 任务、17 万条证据点 — thisguyknowsai · 2026-11-02
- AI 意识研究者:我们没有可靠方法判断 AI 是否有意识 — dioscuri · 2026-11-02
- 蚂蚁团队发布统一反伪造模型,AI视频鉴伪达96% — inclusionAI · 2026-11-02