首篇权重空间学习综述:理解、表示与生成三维度统一框架
burny_tech · x · 2026-11-10
分享综述论文《A Survey of Weight Space Learning: Understanding, Representation, and Generation》,提出把神经网络权重本身当作有意义的分析与建模对象(Weight Space Learning, WSL),并给出首个统一分类框架,按三个维度归纳现有方法:
- Weight Space Understanding (WSU):研究权重的几何结构与对称性;
- Weight Space Representation (WSR):学习模型权重的嵌入表示;
- Weight Space Generation (WSG):通过超网络或生成模型合成新权重。
综述还展示了这些进展支撑的实际应用,包括模型检索、持续学习与联邦学习、神经架构搜索、无数据重建等。作者含 Haggai Maron、Ferrante Neri 等,并附配套资源。
所属事件:首篇权重空间学习综述提出统一三维分类框架(2 条相关)→
「研究」频道最新
- 四本免费数学书打底 ML:线代、概率、优化、信息论各一本 — cneuralnetwork · 2026-11-10
- 机器学习数学四本免费书单:线代、概率、优化、信息论 — cneuralnetwork · 2026-11-10
- Meta FAIR 提出 e-means:1/10 轮次超越 k-means,GPU 提速最高 45 倍 — burny_tech · 2026-11-10
- 梯度归因难以可靠过滤「阈下学习」,NeurIPS 论文给出实证 — ponguru · 2026-11-10
- Yang-Mills 工作组明日公布 OpenAI 完整 Lean 代码与验证结论 — burny_tech · 2026-11-10
- 可解释性研究不应只盯着预测力,解释本身才是目标 — burny_tech · 2026-11-10