Schmidhuber 转发耶鲁课程:快权重编程正重回深度学习核心

SchmidhuberAI · x · 2026-11-06

耶鲁 Kazuki Irie 本学期 CPSC 7770 课程讲了「权重空间编程」四大主题:作为权重空间程序员的梯度下降、快权重编程、元学习(GD 写出学习算法)、自指权重矩阵与 RSI。

Schmidhuber 转发并指出这是 1990 年代神经快权重程序员already做过的老东西——包括 1991 年的非归一化线性 Transformer(即今天线性 Transformer 的前身)。配图为课程讲义,详细展示了 slow net/fast net 双网络结构、DeltaNet 到自指权重矩阵的元层级折叠,以及用可微序列模型参数化学习算法的元学习思路。

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →